チャットAIのChatGPTに「お願いします」や「ありがとう」とついつい言ってしまう人もいるかと思いますが、そのような礼儀正しい接し方により、数十億円規模の電力消費が生まれている可能性を、OpenAIのサム・アルトマンCEOが認めました。 Sam Altman Admits That Saying "Please" and "Thank You" to ChatGPT Is Wasting Millions of Dollars in Computing Power https://futurism.com/altman-please-thanks-chatgpt Your politeness could be costly for OpenAI | TechCrunch https://techcrunch.com/2025/04/20/your-politeness-could-be
はじめに: M4 Max MacBook ProでLLMを動かすというロマンつい先日、128GBメモリ・8TBストレージを積んだM4 Max搭載のMacBook Proを手に入れた。 Apple整備済製品で購入して価格は92万円とかなり思い切った投資だったが、このマシンでどうしてもやりたかったことがある。 それはLLM（大規模言語モデル）をローカルでガチ運用することだ。 自分のPCだけでAIモデルが動き、ネット接続なしでも高度な文章生成や画像認識ができる——そんな未来を先取りしたくて、このスペックのマシンを選んだ。 幸い、Google DeepMindからは最新のオープンウェイトLLM「Gemma 3」が公開されたばかりだった 。Gemma 3はスマホやラップトップといったデバイス上で直接高速に動作するよう設計されたモデルで、サイズも1Bから最大27Bパラメータまで揃っている 。今回このG
4 月 2 日に発表された「Nintendo Switch 2」は、専用の RT コアと Tensor コアを備えた NVIDIA GPU 搭載のカスタム NVIDIA プロセッサにより、パフォーマンスを次のレベルに引き上げ、圧倒的な映像と AI 駆動の強化を実現します。 システムやチップのデザインから、カスタム GPU、API、世界クラスの開発ツールに至るまで、 NVIDIAは1000人年 ものエンジニアの労力を、長年に渡りあらゆる要素へ注ぎ込んだことにより、「Nintendo Switch 2」は大幅なアップグレードを実現します。 この新しいコンソールは、TVモードでは最大で 4K ゲーミングを、携帯モードでは 1080 P で最大 120 FPS を可能にします。「Nintendo Switch 2」はまた、鮮明な映像とスムーズなゲームプレイのために、HDR と AI アップスケーリ
「残念ながら、無料レベルへの展開はしばらく遅れます」──米OpenAIのサム・アルトマンCEOは3月26日（現地時間）、前日発表した「ChatGPT」の新たな画像生成機能について、Xでそう発表した。予想をはるかに上回る人気で、「GPUが溶けている」という。 同氏は別の投稿で、「効率化に取り組む間、一時的にレート制限を導入する予定」で、無料ユーザー向けは提供を開始しても画像を生成できるのは「1日当たり3回」になると説明した。 アルトマン氏は現在、自分のXのプロフィール画像をアニメ風なものに変えている。 この機能のデモ動画では、写真に「アニメ調にして」というプロンプトを添えた結果を紹介している。アルトマン氏のプロフィールも、このデモで生成された画像も、少し“ジブリ風”（スタジオジブリ作品のよう）だ。 その後、Xには「Ghibli Syle」（ジブリ風）と指定したアニメ風画像が溢れた。 Open
米NVIDIAは3月18日（現地時間）、年次イベント「GTC 2025」で、大規模言語モデル（LLM）の推論を最適化するオープンソースソフトウェア「NVIDIA Dynamo」を発表した。GPU群における処理の割り当てを最適化。計算を最小限に抑え、電力当たりの応答速度や処理能力を向上させるという。
Googleが2025年3月12日に、オープンソースで商用利用も認められている大規模言語モデル「Gemma 3」を発表しました。Googleによると、Gemma 3は単一のGPUまたはTPUで実行できる大規模言語モデルとしては世界最高のモデルとのことです。 Gemma 3: Google’s new open model based on Gemini 2.0 https://blog.google/technology/developers/gemma-3/ Gemma 3 モデルの概要 | Google AI for Developers https://ai.google.dev/gemma/docs/core Gemma3Report.pdf (PDFファイル)https://storage.googleapis.com/deepmind-media/gemma/Gemma3R
部門別では、データセンター部門の売上高が93％増の356億ドルで、総売上高の91％を占めた。ゲーム部門は11％減の25億ドル、自動車およびロボット部門は103％増（約2倍）の5億7000万ドルだった。 ジェンスン・フアンCEOは発表文で、「推論AIが新たなスケーリング則を追加しており、トレーニングのための計算量を増やすことでモデルがよりスマートになり、長期思考のための計算量を増やすことで答えがよりスマートになるため、Blackwellに対する需要は驚くほどだ」とし、「エージェントAIとフィジカルAIが、最大の産業に革命を起こすAIの次の波の舞台を整えるにつれて、AIは光の速さで進歩している」と語った。 2025年第1四半期の売上高を約430億ドルと予測した。 関連記事 「DeepSeekショック」とは何だったのか？ 2025年、AI開発の最新事情を解説 1月27日に株式市場を襲った「Dee
生成ＡＩ（人工知能）「チャットＧＰＴ」を開発したオープンＡＩ幹部が、中国のＡＩ新興企業ディープシークに対する調査を巡り政府当局者と話し合ったことが分かった。２０２４年３月撮影（２０２５年 ロイター/Dado Ruvic） ［サンフランシスコ／ニューヨーク １０日 ロイター］ - 生成ＡＩ（人工知能）「チャットＧＰＴ」を開発したオープンＡＩが、エヌビディア(NVDA.O), opens new tabへの依存を減らすためにＡＩ向け半導体の内製化計画を進めている。関係者によると、第一世代半導体の設計を今後数カ月内に固め、設計データを半導体受託生産（ファウンドリー）最大手の台湾積体電路製造（ＴＳＭＣ）(2330.TW), opens new tabに送る計画という。 オープンＡＩが、２０２６年にＴＳＭＣで自社開発の半導体を大量生産するという目標の達成に向けて順調に進んでいることが明らかになった。
フラッシュメモリIP（Intellectual Property）を手掛けるフローディアが、SONOS構造のフラッシュメモリを用いて超低消費電力でAI演算を行うCiM（Computing in Memory）技術を開発中だ。 フローディアは、ルネサス エレクトロニクスでフラッシュメモリの開発を20年以上手掛けていた7人のエンジニアにより、2011年4月に設立された。BCDプロセスを適用したSONOS構造のフラッシュメモリ（SONOSメモリ）技術を、IPとして半導体メーカーやファウンドリーに提供している。 SONOSメモリは、窒化シリコン（SiN）膜に電子をトラップする（チャージトラップ方式）ことでメモリ機能を実現する。フローティングゲート方式を用いた一般的な組み込みフラッシュメモリでは、ゲート酸化膜が高温に弱く電荷が大量に漏れてしまうのに対し、SONOSメモリは電荷が結晶の微細な構造に閉じ
俺が好きなmacでローカルLLMを触れるってことと、来年さらにローカルLLMが熱くなる(はず)ということでm4チップが発売されたことを契機に購入を検討した。 ＃現状、m1 mac book air 16GB所持で、小さめのモデルでも手元で動かすにはちょっと心もとない。 この記事は検討の過程を共有して、誰かの参考になればと思って公開する。 結論 色々悩んだが、整理してみると俺はm4 mac book airのメモリ24GBを待つことにした。(年末セールのm3 mac book airもちょっと候補。) mac book proも悩んだが、持ち運びが多いので重さ、バカ高いPCを持ち運ぶの怖いという観点で諦めた。 一旦mac book airのみで推論ベースで遊んでみて、自分でもモデルを学習してみたいとかでてきたときにm4 mac miniのm4pro-48GBを追加導入しようかなと思う。 ロー
新しいMac miniが予約開始となった。ミニPC好きの私としてはこの新Mac miniでLLMを動かした場合の性能に興味がある。新Mac miniのM4 Proで８Bクラスおよび７０BクラスのLLMを動かした場合の性能を見積もり、我が1000ドルPCと比較してみたい。 Mac mini M4 Pro の価格見積 見積もりの対象としたMac miniのスペックは以下の通り。 プロセッサ M4 Pro（１４コアCPU、２０コアGPU） メモリ 64GB ユニファイドメモリ ストレージ １TB SSD Appleの予約サイトで見積もった結果がこちら。368,800円（税込み）となった。 高い！！というのが第一印象だと思う。しかし最先端のPCの価格は昔はこんなものだった。今から40年前に発表された初代マッキントッシュ（Macintosh 128K）は698,000円だ。 MacはLLMを動か
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 大規模言語モデル（LLM）をローカル環境で実行することへの需要が高まっています。本記事では、2025年1月にリリースされたDeepSeek-R1モデルファミリーを、Ollamaを使用してローカル環境で実行する方法について解説します。 Roo Codeと使用するには下記も御覧ください 環境要件 実行環境には以下が必要です： Ollamaがインストール済みであること GPUを使用する場合：NVIDIA GPUと対応するドライバー モデルに応じた十分なRAMとGPUメモリ（詳細は後述） まだOllamaをインストールしていない場合は、Olla
大企業が多額のコストと時間を費やして完成させたAIモデルよりも優れているとされる「R1」を中国AI企業のDeepSeekが発表し、既存のモデルよりもはるかに少ないコストでトレーニングしたことが判明したために、投資家の間でトレーニングに使用されるNVIDIAチップの価値に疑問が生じ、NVIDIAの株価が1日で約17％下落しました。これを受け、NVIDIAが「DeepSeekの推論実行には相当のNVIDIAチップが必要」と急きょ発表し、信頼の回復を図りました。 Nvidia calls China’s DeepSeek R1 model ‘an excellent AI advancement’ https://www.cnbc.com/2025/01/27/nvidia-calls-chinas-deepseek-r1-model-an-excellent-ai-advancement.ht
生成AI（人工知能）を含む最新のAI研究動向を知るため、世界中の研究者やエンジニアが参照しているのが、論文速報サイト「arXiv（アーカイブ）」である。そんなarXivの投稿論文から、2024年12月15日から2025年1月19日にSNSのX（旧Twitter）で多く言及されたAI分野の注目論文を紹介する。調査には米Meltwater（メルトウォーター）のSNS分析ツールを利用した。対象はXの全世界のオリジナル投稿、コメント、再投稿、引用投稿である。 東京を拠点とするSakana AIと東京科学大学の研究チームは2025年1月9日、大規模言語モデル（LLM）が自律的にタスクを理解し、リアルタイムに適応する新しいフレームワーク「Transformer2」を発表した。このフレームワークを解説した論文「Transformer2: Self-adaptive LLMs」は、世界のSNS言及数ランキ
しぴぴぴ！ Vtuberのしぴちゃん (https://www.youtube.com/@CP-chan)です。普段はゲーム配信しかしてませんが、たまにAIについて発信することがあります。今日はAIの記事の方。 現在はローカルAIモデルに関する連載をしています。 第一弾 本記事（DeepSeek R1をほぼ準備なしからローカルGPUで動かす） 第二弾 Cline＋ローカル版DeepSeek R1でAIコーディングを使い放題にする（高スペックマシン向け） 最近話題のローカルで動くLLM、DeepSeek R1 をローカルGPU環境（NVIDIA）で動かしてみましょう。 多少のコマンドラインの操作ができれば、事前にローカルLLMを触ったことがなくてもインストールできるように書くつもりです。 サムネはDeepSeek R1くんに画像を生成してもらおうとしたところです（そんな機能はありません）。
はじめに どんな人向けの記事？ ローカルLLMに興味がある方 ローカルLLM向けにGPUの購入を検討している方 内容 本記事では、ローカルLLMの推論に向いているGPUの選定を行います。 タイトルにある通り、結論から言うと私はM2 Ultra搭載のMac Studioを購入しました。 なぜ私が60万円以上もするMac Studioを購入するに至ったのか？その経緯を書き留めています。 検討項目 ローカルLLMの推論向けに最適なGPUは何か？ 今後のGPU販売計画も考慮して、今買うべきか待つべきか？ Mac Studioを購入する際の具体的なスペックはどうすべきか？ 背景 昨年、画像生成AI向けにNVIDIAのGeForce RTX 3060 (12GB)を購入しましたが、最近のローカルLLMの性能向上により、このGPUでは物足りなくなってきました。また、メインで使用している第8世代Core
猫も杓子も128GB M4 Max MacBook Proなのはどういうことでしょうか。 128GB M3 Max構成のMacBook Proを使っているのにサーマルスロットリングでポッドキャスト収録もままならない散財王ドリキンは気にならなかったのに、最新機種であるM4 Max MacBook Proを128GBメモリ構成にした清水亮さん、西川和久さんの話を聞いていると、これは買わないといけない気にさせられます。 QWQが凄すぎて俺のMacがシンギュラリ始めている｜shi3z 【西川和久の不定期コラム】M4 Max/メモリ128GB/1TB SSDを搭載した「MacBook Pro 14インチ」を購入！ - PC Watch 【西川和久の不定期コラム】M4 Max搭載「MacBook Pro 14」のメモリ128GBをLLMでほぼ使い切ってみた！ - PC Watch コンシューマー向けG
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
