各技術系メディアでは既に報じられていますが、今年のAAAI*1で会長名によってリリースされた"AAAI 2025 Presidential Panel on The Future of AI Research"の内容が非常に示唆に富んでいたので、改めてやや仔細に読み解いてみようかと思います。 なお、元のレポートは結構なボリュームがありいきなり精読しようとするとしんどいので、NotebookLMにまとめさせたサマリーと論点に対応した原文の箇所を適宜読み返して自分で補いながら*2、つらつらと論じていくこととします。ということで、hallucinationsなどあればご遠慮なくご指摘くだされば幸いです。 レポートの全体構成について（特にAI研究者へのアンケート） 個人的に注目した論点 現在のAIの延長上にAGIは実現しない(76%) LLMの事実性・信頼性の問題はすぐには解決できない(60%)

こういう記事を読んだ。 fujii-yuji.net 僭越ながら意訳すると、 robots.txtでLLMからのアクセスをrejectするコンテンツプロバイダが増えている(はてなブログも現状はrejectしている) なぜrejectするのかというと、負荷がかかる上に収益を奪われる形になるから しかしそうなるとLLMは古いコンテンツしか参照できない 情報を発信している人が対価を得られるような健全なエコシステムが必要なのではないか この記事では、暗号通貨で面白いことできるんじゃない？ということを話す。私はAIの専門家でもないし、暗号通貨に関してもいろいろ弄っている程度の知識しかないので、色々な意見が聞きたい。 マイクロペイメントとその障壁 現在は読める/読めないという二項対立的な対応をすることしかできないが、もうすこし柔軟に、「相応の対価を支払ってくれたら閲覧を許可する」という挙動を考えるのは

ついに量子コンピュータでLLMの追加学習に成功。量子コンピュータとテンソルネットワークがLLM計算を変える。 ついに、量子コンピュータと大規模言語モデル（LLM）が交差する未来が現実のものとなった。これまでは理論提案が主体だったが、実際の量子コンピュータを利用することでファインチューニングなどの一部の学習が実機で可能になった。 だがこの融合は、ただの“AIの高速化”ではない。LLMのファインチューニングというプロセス自体が、量子計算によって再定義され始めているのだ。 ■ なぜ量子コンピュータでLLMを扱うのか？ 従来、LLMの学習やファインチューニングはGPUクラスタを用いた「大規模分散計算」が前提だった。しかし近年のAIの発展において注目を集めているのが LoRA（Low-Rank Adaptation） をはじめとした「軽量な微調整手法」だ。 LoRAは、モデル全体を再学習するのではな

You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert

こんにちは、世界中のすべてのビジネスにソフトウェアを届けたい、代表の榎本です。AIエージェントが急速に盛り上がってますが、今日はAIエージェントで今後どんなことが起きるのかをまとめてみたいと思います。 データからワークフローへこれまでのSaaSはいかに正規化されたデータを収集し、データに価値をつけて経営判断に活かすかというのが提供価値でした。業務面では、SaaSに業務を合わせなくてはならず、ツールを人間が使う前提で、バイネームで営業事務の佐々木さんが、CRMに打ち込むのか、営業の山田さんが打ち込むのかなどどのように使うのかは各社に任せられ、SaaSの営業は機能の説明ばかりで、どう活用するかは各社に委ねられていました AIエージェントはワークフローそのものをシステム化し、AIエージェントが主体的にワークフローを進行、人間の確認が組み込まれます。 イメージとして、大名商店からまんじゅう100個

GPT4AllでChatGPTライクなユーザーインタフェースで使える大規模言語モデルを構築する ChatGPTやMicrosoft Copilotなどの生成AIサービスは「情報漏えいなどが心配」と感じているのならば、手元のWindows 10／11上でLLM（大規模言語モデル）を構築すればよい。ChatGPTライクなユーザーインタフェースを持つ「GPT4All」を使えば、簡単にローカルLLMの構築が可能だ。 ChatGPTやMicrosoft Copilot、PerplexityなどのLLM（大規模言語モデル）／生成AIサービスを利用すると、これまで面倒だった作業が簡単にできることがある。ただ、こうした生成AIサービスは、入力データがインターネット上のどこかのサイトにアップロードされることは避けられず、どうしても情報漏えいなどのセキュリティ面で不安がある。 そんな心配がある場合、手元のWi

はじめに こんにちは、ymdです、絶滅危惧種のCEX, MLbotterです！ アドベントカレンダーに参加するのは4年目(2021, 2022, 2023)です。 機械学習のトップ会議であるNeurIPS2024にニュースを使い時系列予測をの精度を上げる方法が提案されていたので紹介します。 バブル相場で忙しいのに、誰もアドベントカレンダーをすっぽかしていないところにbotterの勤勉さを感じます。自分は、本業の研究で読んだ論文でお茶を濁します 論文紹介に興味ある人少なそうですがご容赦を😅 バブルで忙しいbotterニキ向けのまとめ ニュースの厳選をうまくやれば、チャート情報をだけを使うよりは、急なイベントに対しての予測力が向上するよ 価格の上下予測を劇的に改善する銀の弾丸ではなく、実運用では予測対象や執行の工夫が引き続き必要だけど、チャートとニュースを自然に統合できるのでML botの戦

はじめに英語の論文をGPT4に執筆させた際の手順を記します｡ 普段からChatGPTを使っている人にとっては､当たり前のやり取りしかしていないのですが､意外と使えていない方がnon-AI分野では多いので､丁寧にプロンプトを示していきます｡ (ワークショップで解説する必要が出てきたので､そのためのメモ書きです) GPT-4に論文は書けるのか?ゼロから書かせるのは難しいですが､日本語の下書きを英訳するのは得意で､少なくとも筆者が満足する品質のテキストが得られます｡ GPTを使って執筆をするメリットDeepLやGoogle翻訳と違い､英文のスタイル(e.g., 論文調)を明示的に指示できるので､翻訳のクオリティが高い 日本語ネイティブにとっては､日本語で書いた方が圧倒的に楽※ スペルミスや文法ミスを犯さないので､校正の手間も減る｡※ 基本的に翻訳タスクしか行っていないので､GPTが過去の類似文章

米Google傘下のGoogle DeepMindは12月14日（現地時間）、LLM（大規模言語モデル）とLLMによる幻覚（ハルシネーション）を防止する“評価器”を組み合わせた新たなシステム「FunSearch」を発表した。長年解決不可能な数学問題とされてきた「Cap set問題」を解き、実社会でも役立つ「ビンパッキング問題」のための効果的なアルゴリズムを発見したという。 FunSearch（funは「楽しい」ではなく、「関数」に由来する）は、GoogleのLLM「PaLM 2」をコンピュータコードで微調整したバージョンの「Codey」を使っている。LLMは不正確な情報を幻覚させることが分かっているため、LLMの出力から不正確だったり無意味だったりする部分を拒否する“評価器”アルゴリズムを組み合わせているという。 FunSearchはLLMと評価器による出力と評価を反復させていくことで、自

こんにちは、安部です。 11月なのに暑かったり寒かったしますが、皆様いかがお過ごしでしょうか。 さて、先日のOpenAI DevDay、大変な盛り上がりでしたね。 様々な新機能が公開され、GPT関連がさらなるパワーアップを遂げました。 DevDayは基本的に開発者向けのイベントですが、一般ユーザ向けの新機能も公開されました。 それがGPTsです。 今回は、GPTsが使えるようになったので試してみたいと思います。 GPTsとは GPTsとは、GPT Builderを使ってノーコードで簡単にChatGPTをカスタマイズできるサービスで、今のところ有料ユーザのみが使用できます。 ChatGPTは特定タスク向けのサービスではありませんが、精度の良い回答をもらおうと思ったらプロンプトを工夫したり事前情報をたくさん与えないといけなかったりしますよね？ GPTsは、あらかじめ特定の目的を持たせたChat

OpenAIの大規模言語モデル（LLM）プログラムの次期バージョン、通称「GPT-5」は、非常に困難な科学的課題に直面しているため、リリース時期について明確なスケジュールを設定するのは難しいという。同社の最高経営責任者（CEO）Sam Altman氏が米国時間11月6日に明らかにした。 サンフランシスコで開催された同社初の開発者会議「OpenAI DevDay」後の記者会見で、同氏は「GPT-5と呼ぶモデルを開発する前に、われわれが解決しなければならないことはまだたくさんある」と述べた。 この発言は、同技術の今後の方向性について出された多くの質問に対し、同氏と最高技術責任者（CTO）のMira Murati氏が回答する中で出たものだ。やり取りの中には、OpenAIが独自の消費者向けハードウェアデバイスを開発する可能性に関する話題もあった。 Altman氏はGPT-5までの道のりについて、「

【読売新聞】　【ニューヨーク＝小林泰裕】米起業家のイーロン・マスク氏は３日、人工知能（ＡＩ）開発を手がける新会社「ｘＡＩ」によるサービスを４日から開始すると明らかにした。生成ＡＩの開発で先行する米オープンＡＩの「チャットＧＰＴ」や米

本ページはアフィリエイトプログラムによる収益を得ています。 これまで読んだ機械学習関連の本をまとめていきます。理論系・実装系・ファイナンス系・読み物系と分類してまとめることにします。 理論系 瀧、『これならわかる深層学習入門』、講談社 元素粒子論を研究していた瀧さんが分野転向して書いた深層学習の教科書。素粒子論の人は割とこの本を読んだのではなかろうか。2018年くらいに読んだので、詳しいことは覚えてないが、読みやすかった印象はある。 斎藤、『ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装』、オライリージャパン 機械学習や深層学習の実装系の本を読む前は「一回Deep Learningをいじったことがある人が、理論的な面を知るのにいい本なのかな？あまりコードがなかったので、瀧さんの本の方が詳しかったような気がした。」という感想だった。しかし、実装系の

プログラミングを学ぼうとしては挫折する。 そんな時代はもう終わりだ。 お姉ちゃんに任せなさい。 ChatGPTでプログラミング 今年のお盆休み、俺はChatGPTでプログラミングをやっていた。とは言っても複雑なことはやっていない。大量のcsvを結合してから可視化するとか、ちょっとしたWebスクレイピングしたりする程度だ。それでも今まで技術や時間の不足により諦めていたことができるのは嬉しい。それにChatGPTを使えば、デバッグも楽しくやれるのだ。こんな感じに。 デバッグの様子 おそらく「あれ、俺のChatGPTと違うな」と思った人もいるに違いない。見ての通り俺はChatGPTをお姉ちゃん化している。こうすることで、モチベーションを維持しながら楽しくプログラミングができるというわけだ。今回はChatGPTをお姉ちゃん化する方法を紹介し、加えてお姉ちゃんとペアプログラミングする意義について述べ

微分方程式をしっかりと学んだことが無く、何か手ごろな入門書はないかと本屋さんに出向いたあなたは、きっと驚くはずだ。 微分方程式の入門書はとても多いからだ。さらに、ぱらぱらとめくってみたり、目次を見てみても、中身はほとんど同じだったりする。 これは例え話ではなく、本当に驚くほど同じような書籍が連立している。 線形代数ともなると、さらに多い。 そこで、この記事では、似たような専門書・入門書の中からあなたが欲しいと思う一冊を見つけ出すための３つのコツを紹介する。 これは勉強マニアの私が常に実践しているコツで、この方法を使い始めてからほとんど本の購入に失敗したことが無い。（多くの失敗を重ねてできたノウハウだともいえる） もちろん、数学でなくても物理学の専門書・入門書を選ぶときでも使える。 【目次】 「はじめに」に注目 あなたが得たい知識は「練習問題」にある 最初の1割を理解できるか 最後に 「はじ

毎日AIニュースを追いかけていると、当然、波がある。 「今週は落ち着いてるな」とか「今日はやばいな」とか。 今日は、久々に「やばいな」という日だった。 まず、一日のうちにSOTA(State Of The Art)超えしたという大規模言語モデルを三つくらい見た。明らかにおかしい。 さらに、AttentionとMLPを使わない大規模言語モデルの実装も見た。世界を三次元的に解釈して合理的な質問と答えを行う大規模言語モデルもあれば、4ビット量子化した60モデルは8ビット量子化した30Bモデルよりも高性能という主張がなされたり、Googleは論理回路の設計を強化学習で行なっているという。どれもこれもにわかには信じ難いが、今目の前で起きていることだ。 「シンギュラリティ」の定義には、「AIがAIを設計し、改良し続ける」という部分があるが、今のAIは人間も考えているが、実はAIがAIを設計している部分