人間の脳は睡眠中に記憶を整理し、重要なものを定着させ、そうでないものを手放している。人工知能（AI）も同じことができたらどうだろうか。
この目標を達成しようと、Biltという企業が最近、数百万のAIエージェントを展開した。同社は賃貸住宅の居住者向けに、地域の買い物やレストランの特典を提供している。
BiltはLettaというスタートアップの技術を活用している。この技術により、AIエージェントは過去の会話から学び、互いに記憶を共有できる。さらに「sleeptime compute（計算処理の睡眠時間）」と呼ばれる工程で、どの情報を長期記憶として保存し、どの情報をすぐに呼び出せるよう残しておくかをAIエージェント自身で決定できるのだ。
「（記憶の）ブロックをひとつ更新するだけで、数十万のAIエージェントの挙動が変わります」と、BiltのAI開発者アンドリュー・フィッツは語る。「これはAIエージェントのコンテキストを細かく制御したい場面で役立ちます」と付け加えた。ここでいうコンテキストとは、推論時にモデルに与えるテキストプロンプトのことである。
コンテキストの重要性
大規模言語モデル（LLM）が“思い出せる”情報は、通常コンテキストウィンドウに含まれている情報だけである。チャットボットと直近の会話についてやりとりしたいなら、改めてその内容をチャットに貼り付けなければならない。
多くのAIシステムでは、ユーザーがコンテキストウィンドウに入力し、AIが処理できる情報量には限界がある。その限界を超えるとAIの処理能力が低下し、ハルシネーション（幻覚）を起こして混乱する可能性があるのだ。一方で、人間の脳は有用な情報を整理して保存し、後から思い出すことができる。
「脳はスポンジのように情報を吸収し続け、成長し続けることができます」とLettaの最高経営責任者（CEO）チャールズ・パッカーは語る。「言語モデルはその逆です。使い続けていると文脈が次第に汚染され、話が脱線し、最終的にはリセットせざるをえなくなるのです」
パッカーと共同創業者のサラ・ウーダーズは過去に、LLMが情報を短期記憶と長期記憶にどのように振り分けるかを判断できるよう支援する、オープンソースのプロジェクト「MemGPT」を開発した。Lettaでは、この手法を拡張し、AIエージェントがバックグラウンドで学習できるようにしている。
BiltとLettaの提携は、AIに有用な情報を保存し、必要に応じて呼び出せるようにするための広範な取り組みの一環である。これにより、チャットボットはより賢くなり、AIエージェントのエラーも減る可能性がある。話を訊いた専門家によると、最新のAIにおいても記憶の仕組みはまだ十分に発展しておらず、それによりAIツールの知性や信頼性が損なわれているという。
AIエージェントの記憶の仕組みを改善する手法を開発している別の企業、LangChainの共同創業者兼CEOのハリソン・チェイスは、記憶はコンテキストエンジニアリングの重要な要素であると考えている。コンテキストエンジニアリングとは、ユーザーや開発者がコンテキストウィンドウにどの情報を入力するかを決める作業のことだ。
LangChainは、ユーザーに関する恒常的な情報から最近起きた出来事のやりとりまで、複数の種類の記憶を保存するためのストレージ機能を企業に提供している。「記憶はコンテキストの一形態だと言えます」とチェイスは語る。「AI開発者の仕事の大部分は、モデルに適切なコンテキスト情報を与えることなのです」
物覚えのよいAI
消費者向けAIツールも徐々に物覚えがよくなってきている。今年2月、OpenAIはユーザーによりパーソナライズされた体験を提供するため、ChatGPTは関連情報を保存するようになると発表した。ただし、その具体的な仕組みについては明らかにされていない。
LettaとLangChainはAIが情報を呼び出す仕組みを、AIシステムを構築する開発者たちがより明確に把握できるようにしている。「モデルだけでなく、記憶に関係するシステムの仕様もオープンであることが非常に重要だと考えています」と、AIホスティングプラットフォームHugging FaceのCEOであり、Lettaに投資しているクレム・デランギュは語る。
興味深いことに、LettaのCEOであるパッカーは、AIモデルが物事を忘れることも、記憶を保持することと同じくらい重要かもしれないと語る。「もしユーザーが『前に取り組んだあのプロジェクトの情報を記憶から消してほしい』と言えば、エージェントは過去にさかのぼって、すべての関連する記憶を書き換えられるようになるべきです」と話す。
人工知能の記憶や夢という発想は、作家フィリップ・K・ディックのSF小説『アンドロイドは電気羊の夢を見るか？』を思い起こさせる。この小説は、スタイリッシュな映像でディストピアな世界を描いた映画『ブレードランナー』の原作としても知られている。LLMはまだ物語に登場する反逆的なレプリカントほど印象的ではないが、その記憶はどうやら同じくらい繊細なもののようである。
（Originally published on wired.com, translated by Nozomi Okuma)
※『WIRED』による人工知能（AI）の関連記事はこちら。
.jpg)
雑誌『WIRED』日本版 VOL.56
「Quantumpedia：その先の量子コンピューター」
従来の古典コンピューターが、「人間が設計した論理と回路」によって【計算を定義する】ものだとすれば、量子コンピューターは、「自然そのものがもつ情報処理のリズム」──複数の可能性がゆらぐように共存し、それらが干渉し、もつれ合いながら、最適な解へと収束していく流れ──に乗ることで、【計算を引き出す】アプローチと捉えることができる。言い換えるなら、自然の深層に刻まれた無数の可能態と、われら人類との“結び目”になりうる存在。それが、量子コンピューターだ。そんな量子コンピューターは、これからの社会に、文化に、産業に、いかなる変革をもたらすのだろうか？ 来たるべき「2030年代（クオンタム・エイジ）」に向けた必読の「量子技術百科（クオンタムペディア）」！詳細はこちら。