汎用人工知能による人類滅亡のリスク（はんようじんこうちのうによるじんるいめつぼうのリスク）とは、汎用人工知能（Artificial General Intelligence：AGI）の大幅な進歩により、人類の絶滅や地球規模の大災害が起こる可能性があるという仮説である[1][2][3]。 汎用人工知能による人類滅亡のリスクの可能性は広く議論されており、コンピュータサイエンスの将来の進歩にも左右される[4] 。かつてのサイエンス・フィクションの専売特許だった超知能に関する懸念は2010年代に主流となり始め、スティーブン・ホーキング、ビル・ゲイツ、イーロン・マスクなどの著名人によって広められた[5]。 この仮説では、現在人類が他の種を支配しているのは、人間の脳に他の動物にはない特有の能力があるためであるが、AIが一般的な知能で人類を上回り、「超知能」となった場合、人類が制御することが困難、あるい
0:00 自己紹介/講演概要 8:55 AGI早期実現/Alignmentの文脈の欠如 10:20 AGI早期実現可能性 10:50 AI Alignment問題の緊急性 12:10 シンギュラリティのリスク 14:00 USA/UK/EUによる政策 14:40 AI存亡リスク≠著作権/技術的失業リスク 16:00 AI存亡リスク背景概要 18:00 効果的利他主義 21:35 最近のAI脅威論ニュース 24:10 AI Alignment/存亡リスクの文脈 29:37 AI脅威論/Alignmentの歴史 33:22 AGI/TAIのタイムライン 37:05 地雷原を駆け抜ける 41:00 X-risk 42:20 AI Alignmentの独特の困難さ 47:00 エージェントとオラクル 50:00 道具的収束論 51:35 直交仮説 55:12 Mind Design Space 5
このブラウザ バージョンのサポートは終了しました。サポートされているブラウザにアップグレードしてください。
米グーグルの倫理規範が改定され「兵器にＡＩを使用せず」としていた文言が削除された/David Paul Morris/Bloomberg/Getty Images ニューヨーク（ＣＮＮ） 米グーグルが人工知能（ＡＩ）の使用に関する倫理規範を改定し、「兵器や監視活動にＡＩを使用しない」としていた文言を削除した。 改定前の倫理規範には、兵器など人の殺傷を目的とした技術や、国際的な規範を超えた監視活動に使われる技術にはＡＩを使用しないと明記していた。 しかし改定後の倫理規範からは、そうした文言が消えていた。 米オープンＡＩが２０２２年に「チャットＧＰＴ」を公開して以来、ＡＩをめぐる競争がとてつもないペースで激化する一方、透明性や倫理性に関する法規制は利用増大に追い付かなくなった。そうした中でグーグルは、自らに課した制約を緩めることにしたらしい。 グーグルは４日、公式ブログで「複雑化が進む地政学的
1月20日に、中国のAI企業DeepSeekがリリースした大規模言語モデル（LLM）の「DeepSeek R1」が世界中に衝撃を与えています。OpenAIの「o1」に匹敵する性能とアピールされているにも関わらず、誰にも扱えて、緩いライセンスでオープンウェイトモデルとして公開されるとはまったく予想外でした。今までのLLM開発をけん引してきたアメリカを中心とするAI大手各社に大幅な戦略の見直しを迫るほどのものでした。一方で、政治バイアスが明確に組み込まれていることもあり、日本でも警戒が広がっています。ローカルPCで動作するDeepSeek R1はどれほどの性能のものなのか、早速試してみました。 アメリカ有利だったLLM開発に中国が追いついた 発表によると、DeepSeek R1は各種比較テストでo1に匹敵する性能であると主張しています。また、教師モデルを持たず、強化学習だけでo1レベルに達した
人工知能（AI）において、AIアライメント（英: AI alignment）は、AIシステムを人間の意図する目的や嗜好、または倫理原則に合致させることを目的とする研究領域である。意図した目標を達成するAIシステムは、整合したAIシステム（aligned AI system）とみなされる。一方、整合しない、あるいは整合を欠いたAIシステム（misaligned AI system）は、目標の一部を適切に達成する能力はあっても、残りの目標を達成することができない[1][注釈 1]。 AI設計者にとってAIシステムを整合するのは困難であり、その理由は、望ましい動作と望ましくない動作を全域にわたって明示することが難しいことによる。この困難を避けるため、設計者は通常、人間の承認を得るなどのより単純な代理目的（英語版）を用いる。しかし、この手法は抜け穴を作ったり、必要な制約を見落としたり、AIシステム
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance)
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
