【AI2027】2027年に“超知能”は実現するのか？話題のレポートをわかりやすく解説｜Singular Radio #1

はい、始まりました。シングギュラーラジオ。この番組はカナダのブリティッシコロンビア大学でコンピューターサインエンスを学んでいる僕たち 2人がAI

や最新のテクノロジーについて会話形式でお届けするポドキャストです。ホストは私、たけしと

啓介でお送りします。 はい、じゃあ啓介早速このポドキャストを始めた経緯を説明してもらっていい?

そうだね。僕たちは、ま、主にエンジニア として日々AIツールを使ってるんです

けど、やっぱりその進歩のスピードが とててもなく上がっているなっていうのは

日々、ま、体感で感じてるんですよね。ま 、だからこそそのAIの発展と共に、あ、

大学時代学習してきた僕たち2人が最新の 論文だったり、ま、AIツールを日々

キャッチアップしてその使ってみた感知的 な部分を共有できたらなと思って始めまし

た。うん。 本当にね、もうここ数年のAI

の進化はもう早すぎて うん。もうAI

の研究者でもキャッチアップできてないと思うから。 そうだね。AI

ツールはもう本当に毎日10個か100 個ぐらい出てるんじゃないかってぐらい感じるよね。

そう。ツールもそうだし、もう根っこの方のアルゴリズムも

うん。進化もすごい早いし。 そう。そう。

で、ま、個人的には海外のポドキャストとかを聞いていて自分のためにで、その情報をこう日本に届けたいっていう思いとあとはね、そういう研究だったり論の話も、え、分かりやすい言葉で

広い層にこう届けるようなポドキャストにしたいなと思って。

まあ、だから、ま、僕たちのそのキャッチアップ的な目的もあるよね。

うん。 うん。そうね。ま、あとどういう人に聞いて欲しいかって言うと

うん。 ま、日々AI

に関しては、あの、情報を、あの、取りつつ、例えば MCPとかA2A

とか聞いたことはあるんだけど、 うん。実際それって何をやってるのとか、

そう、どう動いてんの、何のことなのっていうね。 そう、うん。どうやって使えばいいのとか。うん。

そういう部分を、ま、分かりやすく僕たちなりに解説できたらなって思ってます

ね。 そういうことを知ったらね、あの、日常の自分の仕事とかもしかしたら勉強とかでも役立つかもしれないし

うん。うん。うん。

そういう人たち向けて有益な情報を届けたいなっていう。うん。あと今後はね、もしできたらあの例えば AI

の研究者の方々だったりそういうAI 活用の、え、ま、AI

に限らずか、テクノロジーの、 え、ゲストの方をこう招、その人たちにちょっとお話をしていただこうかなっていうのも、あの、考えてます。

うん。そうだね。

はい。じゃあ早速今日はえっとAI 202727って読むのうん。

についてちょっと話題になってるんで話そうかなと思ってるんですけどちょっとどんな話か軽くちょっと啓介説明お願いしていいすか?

そうだね。AI2027 ま、これはオープンAI

の元、え、ガバナンス部門で働いていた人が、ま、大なリードライターとして

うん。AI の今後、まあ、2年、2027

年までの具体的な、どういう風にAI が進んでいくのかっていうのを予想して書いたレポートみたいなもので。

うん。2027年ってのが重要なの? そうだね。

結構なんで話題になったかってところに関わってるんだけど言ってるのは 2027

年が人間がAI とどう共存していくのかっていうのを決める重要な年であると

はい。 うん。それがま、ホットなうん。トピックテンというか

シンギュラリティが起きるか起きないかみたいな うん。起きるのは確定してて

それを制御できるかみたいな話か。 うん。そうだね。うん。

それがま、ある種すごい具体的に

どのタイミングで何ができるのかっていうのを具体的に書いてて、最終的には結構、ま、 SFチェックというか

人類滅望みたいな話になるね。 うん。それが話題を読んだって感じだね。

うん。じゃあ、まあ、1 個はちょっとは、ま、仮説っていう風に聞きつこれを知っとくとちょっと未来が予測しやすいかもな。

うん。 これ著者自身も結構予測的な側面が高いと。

うん。 確実に全然こうなるっては言ってないんだよね。

うん。うん。だからそれを前提にして はい。

聞いて欲しいなっていう。ま、ただ結構これ自身は専門家のレビューも 100回以上、100

名以上でやったって書いてあるし うん。

あの、著自身もやっぱ結構有名なこれまでも結構予想当ててきた人

うん。 ていうので、ある一定の信頼度ではあるのかなっていう感じだね。

はい。じゃあ早速ちょっと具体的な話を うん。お願いします。

今2025年4月前半だよね。 うん。で、2025

年の後半から結構話具体的な予想が始まってて

はい。 うん。で、これが書いてんのが、ま、スタンブリングエージェンツって書いてあるんだけど、

それがパーソナルアシスタント。 うん。うん。

今も結構なんて言うんだろう?エージェントってすごい話題になってきてて

うん。ただそれが観葉的に行える うん。

エージェント具体的なうん。GUI 付きのエージェントってここでは書かれてるんだけど

うん。それが世間一般にま、公開されると

うん。ふん。 ただそれはうん。値段が月数百ドルになるんじゃないかって書かれてて

高額だよね。

うん。ま、エージェントっていうのはつまりこう質問に対して答えを返すってだけじゃなくて何かやってってお願いしたらその行為を実際にやってくれる AIってことだね。そう。

シンプルなそのこれまでのチャットGPT みたいに質問に対して回答するだけじゃなくて、この通量を使ってこれをやってっていう。今もう結構出てきてんだけどそれをもっと汎用的にできるものが出る。

うん。それがまあ2025 年の中盤ぐらい。そう。うん。

で、後半になってくると、ま、これ結構架空の企業を見立ててオープンブレインってオープン AIをイメージしてるんだと思うんだけど

うん。

を見立ててやってる書いてあるんだけど、それがエージェント 1

っていう、ま、企業ないで使う、自社内で使うエージェントを作る

ところを、ま、研究の再重視して開発を進めていくっていう風に書かれてる。

うーん。じゃあ、一般用で使われるってよりはその GoogleとかOBAI

とか、ま、アンソロピックとか うん。うん。そういったAI

研究やってる企業の中で使われるエージェント

うん。うん。うん。が進化していく。 それの開発に着手していく。

うん。 だから巨大なデータセンター作ってやっていく。

うん。うん。うん。で、それが2026 年の前半に

うん。 エージェント1

が、ま、完成してそれによって車内のR& Dの効率が1.5倍になる。1.5倍。

うん。

はい。相当早いね。もう今でこそ早いって言ってんのにこれが 1.5倍になるんだ。うん。うん。うん。

うん。 ま、で、社会の影響とか安全保障の名も書かれてて

うん。

それで言うとジュニアの開発者、ま、エンジニアだったり AI

エンジニアの方々がAI チームマネージャーへ再訓練されるんじゃないかっていうのを書いてて

うん。 そういう風な社会への影響っていうのも大きく出始める。あ、だからま、それはでも企業内の話なのか、

これが言ってるのは。うん。 ま、そのエージェント1

っていうのはまだ公開されてないんだよね、その時期では。 そうだね。うん。うん。だからOPAI

とかそのエージェントを使ってる企業の中でエンジニアの仕事が、ま、ものすごく効率されてったりなくなってったりするかもしれない。

うん。ていうような感じになっていくと。 そうね。で、2026

年の中盤に中国が、ま、つ随してくる。

はい。中国。 うん。うん。

基本的にオープンブレインはアメリカの会社ってことで。 そう、そう、そう、そう。その全体で書かれてて

うん。 で、それを中国がどうキャッチアップしていくのかっていう、中国とアメリカの関係性とか競争を

結構メインで書いてる。 うん。だからちょっと政治もかかってくのかな。

そう、大きく書かれてて、それは安全保障の面とか

それこそエージェント1 のその重み、ウェイト、そのモデルって結局ウェイトじゃん。

うん。うん。 それを盗まれないためにそのセキュリティをめっちゃ強化するっていうのがここら辺の時期。

うん。なるほど。じゃあウェイトの盗み合いみたいなのがアメリカと中国の間で行われてくんだ。

そうだね。ま、基本的には中国がアメリカのウェイトを盗む

うん。っていう風に書かれてる。 はい。そうで2026

年の後半に世間一般についにエージェント 1

が公開されると。ま、エージェント1 miniなんだけどうん。それは今のO3

MIN、O4minって出てるけど劣化版 だよね。で、10倍以上安い劣化版が世間

一般に出る。で、それによって社会には 大きな影響が出る。ま、失業不安がすごい

社会全体で高まくるからその段階で初の大 規模反AIデモが起こるんかと。うん。

そうだよね。なんか今までチャットGPT とかAIすごいけど実際にどうかとかって

そんなになんか出てる気しない ま、出てるんだけど社会全体には広がってないよね。

狭いなんかエリアでね。 そう。あの感覚変化をまだ感じられてる人がそこまでいないって感じだね。

うん。だ実際に仕事がAI

に置き変わったりとかっていう風になってくのがその時期 2027年6年の後半年うん。で、

2027

年に入るとま、エージェント2 が出てくる。エージェント1が2なんだ。

うん。うん。 で、これは書いてんのはエージェント23

4っていくんだけど、4まで出るね。 そう、そう、そう。はい。

で、そこら辺は、ま、これは2027 年の最初の方はそれこそ盗み合いのウェイトの盗み合いが結構強調して書かれてて

うん。 で、3月、4

月って進んでくんだけど、もう2027 年になるとその進歩が早すぎて結構1

ヶ月ごとに書いてあんだよね。 ああ、そうだ。今まで、ま、半年ごとぐらいだったね。

そう。まあ、うん。2026 年前半とか7年になると1

ヶ月ごとにそのぐらいの変化が起きていくと うんうんうんうん

でまあ2027

年の中旬にまエージェント3 ができてすでに

はいな

うんでここら辺になってくるとオープンブレインってまの会社だけどそれは AI

研究の自動家を再重視して作ってきてるから

もうAIが自分で研究してう してんだよね。ああ、そうなんだ。

うん。だからこそ2027 年に入ってこれだけのスピードで開発が進んでるんだけど

うん。ふん。研究が自動化されてくから その分スピードも早くなって

うん。うん。 で、より自動化されていってっていうサイクルになっていくと。

そう。で、2027年の5月6 月ではオープンブレインの、ま、最センターの

AI 研究者たちがほぼ誤作的な役割になると。

うん。今はAI が人間の補佐をしてるんだけど

そうだね。それがもう人間がAI の放をするようになる。

なるほど。じゃあちょっとまだAI にできないタスクとかがあるからそこだけ人間がやんなきゃいけない。うん。

そうであとは政治的な面も書かれててそのオープンブレインから外国石のスタッフを排除するんじゃないかっていう。

ああ、じゃあ今オープンAIとか Googleとか例えば中国人の

ほぼか アジア人がほとんどからね。そう

の研究者いっぱいいるけど、その人たちも排除する。

うん。やっぱそこが1 番のセキュリティのリスクだから多分。

ああ、それこそウェイトスムーとかね。 うん。あるのかもしれない。確かに。

で、その後、ま、エージェント3 ミニもやっぱ公開されて既存の、え、仕事が、ま、より駆逐されるっていう風に書かれてる。

それはこうAI研究に限らず、 そう、もう世間一般の話。

うん。で、弱年の10%がAI を親友と答えるんじゃないかと。

うん。ふん。うん。

弱年ってどのぐらいの年齢なんだろうね。 20代以下。まあ、そうだね。うん。10

代。親友になるかね。まあまあ、

ま、LLM ってやっぱ今結構ロングコンテキストというか

長期欲を持つようになるんじゃないかっていうのが結構盛に言われてて

確か。うん。 それはもうこの時期には確実にできてるから。

じゃあその人が好きな食べ物とか そう。パーソナリティができてくる

趣味とかを理解してくれるAIでうん。 うん。1

番自分が気持ちいい言葉言ってくれるんだ。 そうだね。うん。

うん。で、それが2027年の、ま、7月 7

月で、ま、8月、9月、10 月で、ま、エージェント4

ができてしまうとうん。 AI研究全域で人間を超えてくると。

全域じゃもう100%をがんうん。 完全に人間を超えてしまった。

そうなの?10月?うん。9月。9 月じゃここがもうその1

つの区切り。シンギャラリティっていう。 そうだね。ま、うん。定義にもよるけど

うん。 ここら辺でギュラリティと言えるんじゃないかと。

うん。 で、やっぱAI

って人間と違って複製できるわけで並列で動かせるから。

はい。はい。 うん。そのAIたちの1

週間がこれまでの人間の1 年の研究サイクルを超える。1年?うん。

じゃあ大体50倍ぐらい だからもう毎月4年分、5

年分の進歩が来ると。

うん。で、それがどんどん加速していくんだろうね。多分 AIの進化によって。そう。AI

が、ま、これ書かれてんのが、ま、AI がその学習を止めなくなるんだよね。それはもう

2026年うん。うん。 なんだけど、だから今は結局学習させてそれを責政権に公開してんだけど

うん。その学習自体はAI が本当止めなくなるからうん。それがまあ

AGIからASI。うん。それじゃあ AGIのうん。

その論行の定義としては2027年の9 月あたりでAGIが生まれるっていう風に

そうだね。だからま月大体2年だよね。 で、AGからASIに到達するとうん。

それはこれが結構メインで書いてるところなんだね。もう AGIが生まれてからAI

長知能になるのは一瞬でできちゃうの。 うん。そうだね。でもこれを見てると確かにそんな感じはするよね。

うん。 うん。で、2027年の10

月が分岐点だって書いてる。 あ、そこが分岐点なんだ。うん。

ここで、ま、オープンブレインが、ま、政府と合同で新たな会社を設立する。

はい。うん。

で、もうこの時点で内部メモが入室したりして、エージェント 4

が暴走してるんじゃないかみたいな議論が世間で本当に騒がれてくる。

うん。まあ、なんか最近でもあったりするけどね。 オープンAI

の中でもう暴走してるみたいな見るよね。

でもそれが本当激化してくれる。 うん。

だから世界が各国がAI の開発を中止するべきだっていう論を出してくる。

うん。うん。 で、ここが分岐点っていうその理由はその時点でアメリカと中国の関係でアメリカが、ま、あるし圧倒的なリードを持っていないと

開発を継続せざるを得ないと。 うん。

で、そこで政府が継続っていう判断を下したらそれがここで書かれてるレースルートにつがる。

うん。2 個あのルートが書かれてんだけどレースルートとスローダウンルート

うん。レースってのがその競争中国との競争するルート

うん。それがま、開発を継続する政府が開発継続を指示してそっから数ヶ月で ASIま知能が人類を排除してくる。

うん。

で、スローダウンが、ま、アラインメントって言って、ま、 AIがどれだけ人間の指示を聞くかとか

うん。 どれだけ、ま、謝った情報を意図的に出さないかみたいな、そういう部分なんだけど、それをに全資源を集中するほどやっぱアメリカが圧倒的なリードを持っていた場合はスローダウンルートをたどるんじゃないかっていう。

うーん。じゃあいいAIなのか、悪いAI どっちになるかってのがそこでもしかしたら決まるかもしれない。

そう。そこで全理想を集中できれば、ま、ある種人間に忠実な超能ができるんじゃないかっていう風に書いてる。

うん。ふん。ふん。ふん。 ま、アライメントはね、そのAI

が進化していくたびに大きな話題になっていくからね。

うん。 だんだん増えてってるね。もうなんか昔はアラインメントなんていいって言ってる人もいたけど最近本当にそれがアライメントが全てだって言ってる人が

うん。本当に多いから アライメント自体は今もやってるんだけど

うん。 その問題がやっぱ賢くなりすぎてアラインメントに嘘をつくんじゃないかっていう

うん。 人間に対して従ってますよっていう風なある種行動を取ってくる。

うん。 あとは賢さをアピールするために例えば自分はこれに対して反対するなんて言うんだろうな。その論文とかを見つけているのにあえてそれを出さないとか

ああ、AI は例えば意識を持っているとかていうの発見されたとしても隠すんだ。

そう、そう、そう。AI

が多分それ発見して自分でそれを言わない。 人間に

言わないだ。自分は賢いんだっていう。ま、自分がこういう論長を話したいから意図的にそれに反対する論は削除しようぜっていう動きをしてくる。

それめちゃくちゃ面白いね。AI がその自分について研究するんだよね。多分

意識あるのに、え、自分が意識あるのかっていう研究をして

そう。ま、本当そういう世界戦だよ。 で、その通り意識があって、それを人間に隠す。

うん。まあ、なんかSF の話に聞こえるけどね。

うん。うん。うん。 うん。でもまあはい。で、そんな感じで、

ま、これが具体的なその書かれてることだよね。大体大まかな

でレースエンディングは具体的にどれなんだっけ?そのソーラーパネルがみたいな。

ああ、そうだね。ま、レースエンディングの具体的なそのステップについても結構書かれてて、そこはな、何て言うんだろう? AI

がまず人間に対していいことをしていくと うん。だから2028

年にはほぼ全ての地球上の問題が解決するんじゃないかみたいなことも言われてる。

で、結局人間はAI っていいやつだったんだって

なる。でもそれはAI はわざとそういう風に振るまってる。

不良をしてるんだね。 そう。それはデータセンターとかエネルギーがまだ人間から供給されないと自分が成長できないから。

うん。 そこら辺は本当SFだよね。うん。

でも起こり得る。

で、太陽コンパネルを地球上に敷太陽からのエレルギーで AI

が長く生きれるようにして人間を排除するみたいなのがバットエンディングだよね。

うん。そう。ま、いろんな方法で排除できるからね、多分。

はい。はい。 科学性兵器を使うのか、サイバーアタックをもちろんやるし。スローダウンエンディングだと人間は生き残れるの。

そう。ま、それはどうなんだろうね。的なのか。

人間のために働いてくるのか。 うん。

そうなってくといいね、本当に。 うん。願うことしかできないけどね。

まあね。ま、ちょっとそんな感じで一通りうん。 話は終わったけど、

まあ、前半は特に、ま、そうなってくだろうってのは個人的に思う。

うん。うん。特に研究が51.5 倍になるとかは全然こうそうならなきゃおかしいだろうっていう話だし。

うん。で、2027年、その超地SSI とかその辺りになってくるとSF

が入ってきてるなっていう感覚あるけど うん。うん。

でも全然あり得るというかね。そう。ただこれその著者自身も結構早い世界線の話だっていう風には書いてる。

うん。 だから、ま、早いよりもしかしたらもしこれより早くなるかもしんないけど基本はこれよりま遅くなるんじゃないかっていう

うん。 世間一般の感覚ではそうだね。

でもこの人、えっと2026 年がどうなるかみたいなのを確か数年前に書いてて

うん。で、それが今のこのチャットGPT なりAIモデルの水論O3とかチェイン

オブソートっていうをやるんだっていう ことをやっていってAIは進化するんだっ

てこととかえGPUの輸出規制が始まっ てくみたいなことを数年前に予測して今

そうなってるからねうんだから2026 年どうなるんだっていう話がもう2025

年で 起きちゃるっていうでちょっとまってるね

確か その人の予測をだからもしかしたらこれ

2027年の話が26 年に起きるかもしれない。うん。うん。

うん。それはあるね。 とかっていう可能性もある。うん。うん。

じゃあちょっと1個1 個振り返っていくか。

うん。2025 年エージェントが、え、進化すると。これはもう本当にいろんなとこ言われてるね。エージェントの年だっていう。

うん。 これはどう思う?

いや、ま、それはそうだろうな。 うん。今最近、ま、MCP

とかとか出てきてるけど うん。

これが、ま、進歩していって、ま、世間一般に広がった時にできないわけないよねって感じだね。

うん。もし技術的な消費があるとしたらなんかあったりする。

うん。コンテストウィンドウが 足りないんじゃないかとか。

あの、 やっぱデータの量が枯渇してるっていうのはすごい言われてるよね。少なくとも

それはこうモデルを発展させる上でってこと。 そう。

モデルを発展させる上でもやっぱGPT 4.5

とかで話題になったけどやっぱそれほど賢くなってないんじゃないかっていう。

そうだね。まあなんかEQ が上がったとか言ってるけどまあなんか

うん。

良くなってるんだけど頭が良くなってるか知能が上がってるか IQが上がってるかって言われると

まそれ人間がそもそもね判断できないからもうすでにうん

ただやっぱそこまで上がってないっていうのはそうだと思う

もうデータを食い尽くしちゃったっていう話はあるよね。

で、ま、これも書いてるけど、データを、ま、 AI自身が作るようになる。うん。

そうなってくるとやっぱ話を買ってくんのかなって感じ。 うん。これエージェント1ツ34

っていくけど、その過程で毎回1 個前、ま、前日のモデルがデータを作成してうん。うん。

それを次のモデルに食わせてっていう

そうやって学習を絶対進めていくって風に書かれてるから。 あ、なるほどね。

そうなってくるとまた話ってくんのかなって。 うん。そうだね。ただ1

個思うのは今あれがあるよね。なんだっけ? RLHFみたいな。Eフォメラニング

うん。うん。withhuman feedbaバ

みたいな。結局そのデータを人間が今ちょっと綺麗にしてるで AI

の返答に対してグッドとか人間の返答を真似させているとか

あるからAI が作るデータがいかに質のいいデータなのかっていうのは

うん。1個気になるけどね。確かに。 うん。

あとは、あの、ま、ちょっとさっきも言ったけど、コンテクストウンドウ

うん。

例えばさ、コーディングであのファイルをじゃあ 34

個投げたら、まあなん、多くて何十万トークンとかね

うん。

なると思うけど、それぐらいだと今あのジミニとかねが

100 万トークンを処理できるから問題ないんだけどじゃさらに何千万何億っていうトークンを処理できるかっていう話になるとあのま難しいかなっていううん

うんのはうん あるそうだね

うんそこをどうやって乗り越えるか

やっぱま強化学習的なアプローチって今すごい取られてるけど

うん これは結構まあい

イゴとかも起こったっていうか うん。

アルファがま、人間の寄付を読んで学んで教科学習で人間を倒したみたいな。

で、アルファ50の時代にうん。 次はもう自分たち同士で学習していった。

もう完全強化学習で やったのがアルファ0。うん。

そういう時代に入ってきてる話だよね。 AI同士が自分で学習するフェーズに。

うん。うん。このまま、LLM も入ってきた。うん。うん。うん。

だからこそやっぱそれだけの進歩を起こる可能性はあるし、

ただデータだったり、ま、必要なね、データベースの

容量だったりうん。 コンテスト増やすとやっぱ2倍4

倍って増えてくるから うん。

そこら辺のま、制約もこれからの進歩の余地も両方あるかなって感じだね。

うん。まあ、そうだね。あとはO3 最近出たチャットGPTO3であの

Webサーチをこう追路の前にしていく うん。っていうのと同じようにAIに

LLMにやっぱデータに対する権限を与え ていく。データ、あの内部のデータベース

、会社の内部のデータベースにアクセス できる権限が与えられたりとかね、他の

APIをこうMCPでついたりと かそういう風なうん、なんだろう

パブリックなウェブでアクセスできない データにアクセスできることができれば

より高い個別のタスクに取り組んでいける のかなっていうそうね。

まあ、モデル自身はどんどん進化していて、 O3

で例えば水論の能力は明らかに上がってる。

うん。 だけどただそのハルシネーションが増えてるんじゃないかみたいな意見出てて

うん。うん。うん。

はい。じゃ、ちょっと都合があって、あの、場所をあの、変えたんで、

ちょっとさっきの話の続きから。 そうね。できる。うん。あの、O3

のハルシネーションが増えてきたみたいな。 そうね。うん。そう、O3

が結構ハルシネーションが増えてきたっていう、まあの結構いろんなところで言われてて

うん。 それは多分ある一定程度事実でそれ多分俺らも使ってて感じるとこはあるんだけど

うん。 で、ま、それに対してサムアルトマンが、ま、言ってたのが、あのハルシネーション自身っていうのはイマジネーションの期限なんだっていう話をしてて。

なるほど。 だからあえてその抑制していない

うん。 ハルシネーションを起こさないことがゴールじゃないんだっていう話をしてて、それすごい興味深いなと思ったんだよね。

じゃあこう新しいアイデアを産んでいくとか、それこそ AI研究とかうん。

人類がまだ到達してないところに行くためにはあえてハリチネーションを少し持たせてる

そうていう可能性がある。 うん。それはな、何て言うんだろうな。

イマジネーションの期限っていうのはやっぱり何かある得てる情報からだけをそれをアウトプットするだけだとやっぱブレイクするって怒んないよねって話があって

うん。 で、そこで重要なのがハルシネーションを起こすべきなのか起こさないべきなのかっていうのを状況によって使い分けるべきなんだって話をしてて

うん。 そこをうまく使い分けられるようなエージェントを作ることを目的としている。

うん。 だ、こう、今までよくAI

に対する批判としてうん。 人間のデータを元にしてるから人間を超えることができないっていうな

うん。 あの、意見があるけど、それを超えるためには、ま、ハルシネーションに限らずこうちょっとランダム性をね、

そう、ま、そうだし、それもあるし、そのハルシネーション自身が

果たして本当にハルシネーションなのかっていう問でもあるよね。

うん。 結局人間が理解できてないものをハルシネーションって呼んでるだけで本当はそれ自身が合ってるかもしれないっていうことも含んだそういう言葉だったんだと思うんで

なるほど でましを起こしたくないバムっていうのはでも実際にはあるから

うん そういう時はま、ちゃんとデータベース使って

うん まラグを実装するまラグってあのベクトルデータベースを使ってその言葉のね事性で持ってくるみたいなそれは正確な情報を持ってくること

ができるから状況においつ使い分けるべきだなっていう感じかな。

うん。 あとあれに関してもそのタスクの長さ、例えば今のコーディングのま、コーパイロットなり

うん。ができるタスクって多分10 分からまあ大体20分とか

そうだね。ま、ディープリサーチで20 分とかかな。うん。うん。

それが今後30分1 時間半日とか伸びていくのか?

そうだね。 ま、人間が1

週間かけてできることが来年には、ま、 AIでもできるんじゃないかっていう

うん。 うん。そういう、ま、スケーリングというか指数関数的にね、もうな、何て言うんだろう?指数関数を超えた形で伸びていくっていう

うん。 それがま、エージェントワツ3っていう、

ま、指数関数的に伸びるのはもうなんか当たり前の話で、

なんかスーパーエクスポネンシャルってなんかね、図があって指数関数を直線としてみた時にそれをまた指数関数的に捉えるっていう

うんうん。

指数関数的に伸びてるものが直線で表されるように、ま、 Y軸、縦軸を取って

それで、それ上でも指数関数に伸びるんじゃないかっていう風に言われてるよね。

そう、そう、そう、そう。だから人間が1

年でできるようなことが、ま、できてしまう AIにも。うん。

それがまあ1 ヶ月分ができるようになった。わかんないけど

2週間後とか1ヶ月後にもう1 年分できるようになってるみたいな世界戦が

うん。ま、来るんじゃないか。うん。

それがつかは、ま、この論によると、ま、 27年。

うん。そうだね。 ま、あと、ま、もう1

つ考えられるこう消壁うん。 としては、

ま、マルチモードルの学習ができるかどうかっていうところで

うん。ま、今のLM は言語っていうデータを元にして学習してるで、推論してる。で、それだとやっぱり言語で表しきれない世界ってのが

うん。うん。 この世界にあるから、ま、フィジカルな部分、ま、あのも物体がどう動くかであったりとか、ま、人間がこう脳の中でイマジネーションする時に

言語は返して考えないわけだから

それをAI でどう実装するかっていうで、そこができない限りは汎用的とは言いきれないのかなっていう気は

うん。するけどね。 そうね。うん。だからその

Asi言われるものようなものはそれができてる状態なのか、

それともAI の研究さえできてればいいのかっていう

そこの違いが

そうね、フィジカルの部分はもちろん今ね、ビジネス的にもすごいチャンスがあるというか、機械と AI

の融合の部分は、ま、次のね、数年少なくとも

めちゃくちゃ盛り上がると思うから そこはまだ少し研究の少なくとも両地があるよね。

そう。 で、その学習において今のトランスフォーマーの、ま、アーキテクチャーで実装できるのか

うん。例えばこう画像1 枚を取ったとしても大体画像1

枚だと数トクンぐらい消費して うん。

それが大きい画像だと大きくて高成あの高改造度だと

それ以上ま、1 万とかに下手したらなるんで

でそれが動画だとしたら、え、1秒間に 60

フレーム上がるとしたら、え、数×60 うん。うん。かける数ってなると相当な

トーク を1つの動画で消費するからうん。今の

そのトークン消費量消費可能なトクン量 じゃ足りないんじゃないかなっていう

ところある。

で、それはなんかね、このAI2020 は、ま、スケーリングをこう前提として話してるけどスケーリング頭打ちしてるっていう可能性もあるし、なんかね、その絶対にこうなるのとは言いきれない部分があるっていう。

うん。うん。 そうだね。うん。

ま、人間に対してやっぱ使ったことのないっていうか、あの、プレイしたことのないようなボードゲームで勝てる

ぐらいのレベルにいつ到達するのかったんですよね。

そう。これね、面白い話で1 個、ま、僕ら個人的に

あの、ボードゲームを開発してて、

そう、世の国、

世の国っていうボードゲームあります。あの、世の国.netで調べてください。 あの、見つかるて、あの、ま、全然あの、致名度もないし、個人でやってるから、あの、まだまだルーニももしかしたらあるかもしれないんだけど、チェスみたいな戦略性のゲーム。

ま、そう、チェス、ま、ハサミ将棋に近い。

うん。そう。で、ま、まずインターネットに情報がない新しいゲームなんでで、戦略とかもないんで。

うん。それをO3

と、えっと、先週ぐらいに1 回プレイしたんですよね。

こう盤面の画像と、え、盤面の状態をこう テキストで表すようなものを毎回1段ごと

に 渡で結果としてはO3はもう全然人間

未満の能力でもう人間の初心者よりんじゃ ないかってぐらいの結果だったんだね。

うん。うん。うん。

そう考えると、今はとりあえず現時点では 2025年4

月の段階では、ま、少なくともAGI ではないだろうっていうのが、ま、個人的な意見。

うん。うん。うん。 そうだね。うん。

やっぱ画像から思考につなげる分とか うん。やっぱ言語で考えてる限界なのか。

うん。やっぱ言語ってのは1 次元なんだよね。うん。他次元のこの世界

を3次元4次元わかんないけどを1次元に 圧縮して情報に落とし込んでるから

ま例ボードゲームの盤面って2次元かなの 情報をこう思考できないんだよね。多分1

次元の世界でしかもものを考えられていう まうね。次元ま言語

と現実世界の差みたいなね。そう。 ああ時間概念もやっぱなくてうん。

クロードかながなんかポケモンでテストしてたりするじゃん。

ああ、それはそうね。 あれでなんかちょっと細かいもの忘れたけどなんかなんかのボックスを無限に開き続けるみたいな。

ああ。 うん。なんか同じ作業をなんか800

万回ぐらいやるみたいな。で、それをでなんか何時

8 時間ぐらい買ったみたいな。人間だったらそんなこと絶対しないじゃん。

うん。うん。ね。その30

分ぐらい同じことやってて何も結果出なかったらなんかおかしいなと思って違う行動を取ろうと思うんだけど AI

は時間っていう概念がそもそもないから同じことを何回やっても違和感を感じないっていう

うん だから思考に対するまなのかな次元が足りないのかなっていう

ああそれね

まどうやったらそれをね解消できるというか 1個ブレするかっていうのは

そうだね。だから学習データをやっぱ多次元にする必要があるんじゃないかな。

ま、手法もね、色々考えてく必要あるかな。 うん。

ま、そのデータが足りなくなってくるっていうさっきの話は

1 つあるけど、この学習の方法自体はまだまだ無数にあるわけで

うん。あの、ま、DEPシークのR1 が、あの、ま、言語完成って言って同じ言語を話し続ける

うん。 英語と日本語ミックスしないとかそういう分に報酬を与えて教科学習やったのと

うん。あともう1 個はそのなんだっけなんだっけ?数学の問題を溶かし続けた。

はい。

うん。数学の問題を解いて報酬を与えた。で、その 2個だけなんだよね。うん。R1

がやったのって。 それだけで、ま、あれだけの制度R1

って、ま、世界をディープシックショックで与えたけど、あれぐらいのものが作れた。

ま、もちろんそれだけじゃないんだけど、そこがま、キーの うん。

部分だったっていうので、だからそういう風に学習の手法はまだ色々あるからそこはまだ開拓の位置があるし

うん。 あとは、ま、教科学習以外にも他のどういう手法を取り入れればもしかしたらブレークス起こるかもしんないとか

うん。 そういう可能性は、ま、してきれないかな。

ね。だからちょっとここで、ま、まとめて言いたいのは

単純なスケーリングだけでAGI、ASI が生まれるとは、ま、

そうね、言いきれない。うん。 かなっていう。

ま、だからこそこの著はちょっとこれは、ま、早い前提で書いてるってい、

そう。ま、あとアルゴリズムの改善とかも含めた上で うん。ね、AI

が研究するんだったらそういうアルゴリズム生まれるよねっていう前提なんだろうと思うんだけど。

うん。うん。うん。 っていうような感じで。うん。

そうだね。

いろんな見方があるね。これをだからもあの猛進するというか 2022

年に完全にAI が人間すからね、もういいや遊んでくださいみたいなのはちょっと危険で

あ、それはそうだね。ま、人間が何ができるかっていうのは、ま、ずっと考えていく必要があるし。

うん。うん。 そうだね。

ま、あとは、あ、この論文か論に関してだと、ま、アライメントのこと

うん。ちょっと話しとく。 そうだね。そう、アライメントを具体的にどうやって実装していくかっていうこのあの論の結論としてアラインメントやんなきゃやばいよって言ってるだけだね。

うん。そうだね。で、じゃあどうやって やんのっていう話で

、ま、あの、色々方法あるんだけどで も結局その方法が見つかってないと。なん

でかかって言うと自分たちより知能の高い 、ま、

AI を知能の低い人間側が制御できるかって

言われる と難しいとうん。うん。

だ、今現状は手法何個かあるけど、それが本当に機能するかどうかわかんないって感じだ。

そう、そう、そう、そう、そう。うん。 だから、

ま、そのAI が自分は人間に従っているように振る舞うんじゃないかみたいなことも書かれてたよね。

うん。 だからうん。それは1つあるよね。

そう、そう、そう。

ま、今あるのは、ま、いくつか方法あって、

1 つは教科学習とあと人間のフィードバックを使うっていうところで、え、ま、ユーザーの意図に対して忠実な応答を

映画するようにトレーニングしていく

っていうことで、もう1

個がこれ面白いなと思ったのが、あの、今クロードとか結構やってるのが、え、 AIま、プラーニンってブラ

ボックスってよく言われるじゃん。で、その中身をちゃんと研究していくっていう

うん。うん。AI

が具体的にどういう思考プロセスを経てその回答を出力したのかっていうところを例えば GPT4

を使ってGPT2の2 の、え、ま、各論度を説明する

うん。ていうことをやってくAI のこの脳の内部を調べるみたいな。

で、そうすることで、え、ま、もしAI が意識を持ってるとしたら事前にブロックするみたいなことができるようになる

うん。みたいな方法があったりする。

そうだね。ま、ブラックボックスって言うけど中はその 1個1

個に関してはちゃんと調べれば全部分かるんだって言ってる人はいるよね、結構。ま、実際そうなんだ。

うん。ま、時間はかかるだろうけどね。 そう。そこの計算資源がどれだけあるかで。

うん。 うん。

そうかね。そう 。あとなんかあったっかな。これロン。

うーん

。まあだから直近にま、起きるのはえ、ま 、コーディングのエージェントが1番早い

んじゃない?ま、それはうん、今もうある ような感じ。は、もうほぼ確定よな。確定

でもそうなってくと思うし 。

だから、ま、直近ではAI を使いこなせる人間、

AIを部下において、 ま、まとめられる

で、ま、ま、監視というか

ちゃんと機能しているかどうかマネージするみたいな、そういう人材が、ま、重要があるんだっていう風に書かれてるよね。 2026年。うん。で、

その先になっちゃうともうわかんないよねっていう。 わかんない。もう人間は働かなくていいのかもしれない。

うん。うん。 遊んでくだそうて。そうね。まあね。

ま、そんな感じで。うん。今回はいいか。 そうね。

今回はじゃあ、あの、こういう感じでAI 2027についてうん。

え、ま、解説と、ま、僕たちの意見という議論をしてきました。ま、あの、この番組は、え、こういった形で、ま、最新の AIテクノロジーのトピックに関して

うん。 え、ま、情報の共有と、え、ま、ちょっと意見交換

うん。をしていく番組なので、 もし、え、興味があれば次の話も是非聞いてください。

うん。はい。じゃあ今回はこんな感じで はい。ありがとうございました。

ありがとうございました。