MCをつとめましたPIVOTの竹下です。 今回は第1回目の議論を引き取って、AIが人間の知能を超える「シンギュラリティ」や「人間の優秀さ」について話が広がりました。 ゲストの東大大学院の鳥海教授は、「人工知能の社会実装」に加えて、「SNSの炎上」も研究されています。 鳥海教授が、慶應大の山本龍彦教授と提唱しているのが「情報的健康」。 私たちがジャンクフードばかりを食べずに健康を気にするように、情報についても”健康”を意識しようという呼びかけです。番組の冒頭で炎上の話になったのは、上記のような背景からでした。 SNSとAIの進化が入り乱れる世界について、改めて基礎から考えることができました。 情報的健康についての著作→ www.amazon.co.jp/%E3%83%87%E3%82%B8%E3%82%BF%E3%83%AB%E7%A9%BA%E9%96%93%E3%81%A8%E3%81%A9%E3%81%86%E5%90%91%E3%81%8D%E5%90%88%E3%81%86%E3%81%8B-%E6%83%85%E5%A0%B1%E7%9A%84%E5%81%A5%E5%BA%B7%E3%81%AE%E5%AE%9F%E7%8F%BE%E3%82%92%E3%82%81%E3%81%96%E3%81%97%E3%81%A6-%E6%97%A5%E7%B5%8C%E3%83%97%E3%83%AC%E3%83%9F%E3%82%A2-%E9%B3%A5%E6%B5%B7%E4%B8%8D%E4%BA%8C%E5%A4%AB/dp/4296114336 鳥海先生の記事→ news.yahoo.co.jp/byline/toriumifujio/20220107-00276231 今回のKZfaqのタイトルにあった「弱いAI」は以下の整理に基づいています。詳しくは第一回の配信でも語られています。 ◎「弱いAI」：与えられたタスクを解決するAI ◉「強いAI」：人間と同じように意識を持ち、自分の行動を理解する。「ドラえもん」のような存在 AIの進歩が速すぎてて、何を語っても「古くなってしまう」というリスクもあります。そうしたことを茂木さんや鳥海さんが意識して話しているのもポイントの一つだと感じました。

茂木さんこそテレビの偉大さを3人の中で一番実感してそう💦

秋月電子が話題にチラッと出てきてホッコリしました😸😊

人間がこの人は良い、この人は悪いとか、この人は好き、この人は嫌いと判断しないこと。

MCが茂木さんじゃなければもっと分かりやすくなるんじゃ

①カスケード こっちのカスケードは新しく生まれた造語の類。電子機器の世界では必ず出てくる。 無限に続くメモリーへの接続etc。無限の連鎖とも意味が違う。 コンピュータに同じ作業を何億回とやらせても問題ない。 しかしこれを人間にやらせるとなると話は別。 意味の薄い造語は作らない事を推奨したい。 言葉の意味がどんどん広範になって収集がつかなくなる。 AIで言うと翻訳で カスケードの翻訳を間違えやすい。 もはや米国人と日本人の会話が成り立たない　という事が増えるかもしれない。 世界標準の英語を使う事を前提としているならば、和製英語は辞めよう。 AIは和製でもなく日本固有の技術でもない。 ②少数の権威による意見より多数の意見の方が正しい。 これは議論の余地もなく正しい。 権威は尊敬に値しない。そう名言した物理学者もいるぐらいだ。 少数多数に関係なく権威に所属する人間の意見に正当性や人としての平等が欠如している事が多い。 自己の特権。給料や職の寿命を保証する考え方で、万人にとって良い考え方ではなく論理的に破綻しているケースがほとんどだ。 残念ながら学者の意見もこの範疇に入るケースが多い。 ・事実でありながら、ビジネス感覚に欠ける。いつ利益になるか？わからない話。（山中教授の細胞のオハナシ） ・ビジネス感覚があるのだが、現実性や再現性に欠けるが、開発予算ぐらいは確保できそうな話。（下手をすれば自律型AIの完成はほど遠く、詐欺的な投機的な話） 大きなビジネスを首を覚悟で実行し、万人の為に論文を書く事なく努力し実現しようとする工学系の人間が必ず行きつく社会的な障壁でもある。 ここに決定的な最終成果物の差が出る。 論文のような文章だけで装置すら残らないモノ。 空母のような１兆円規模の鉄の塊。 AIはまだ実現しているだけマシなケースだが今後の推移が注目される。 AIが救いなのは、真面目な物理学者とビジネスマンが融合するアメリカ社会で開花しようとしている事だ。 日本の話ではない点に活路が残っている。しかし上記のように万全ではない。 ③TV人気低下とKZfaqの隆盛 事実であるが、KZfaqは最強のままか？ かなり疑わしい。持続性について。 KZfaqの正当性。あり方については岐路に来ている。 トランプ元大統領のアカウント停止は言論の自由を堅持するどころか、 言論統制の可能性すらある。できる人はもうこの戦場を去った可能性を考えるべきだ。 ④AIは嘘をつくか？ これはプログラマの裁量次第。 嘘をつかずにわからない事には『答える事ができない質問です』という誠実型。 テキトーな事を言うAIも十分に考えられる。 時系列。つまりソフトのバージョンや人間の論調によって意見を変質させるAIも作れる。 AIにも型があり人間の都合によって多くのバージョンを産みそうだ。 ⑤AIの創作物と著作権。 私はAIは人間プログラマの創作だと考えているので権限やロイヤリティについては心配していない。定義が可能で明確化できる。 問題となるのは私の予測に反してAIが自律的に発展していった場合。 私は自律型AIの存在そのものに重大な疑義があると考えているので心配していない。 100歩譲って自律型AIが出来たとして、せいぜい南極のように無償化するのが現実的か？ 本当に凄い自律型AIが出来たのならば、それは一般に公開される形で運用されていないのでは？と考える。 将来の問題として考えるべき問題だが、実はよく考える必要のない問題なのでは？　と私は考える。 ⑥シンギュラリティ２０４５年。 つまり自律型AIの確立。映画で言う所の自律型ロボット：ターミネーターの出現。 平然と2045年？にはシンギュラリティを迎える　と豪語する東大や筑波大学の教授がいる。 シンギュラリティの定義は私はよく理解していないが、自律型AIが成長し、人間の必要度が今より格段に下がるという時代の到来を指すらしい。 私は生きているか？分からないが45年を楽しみに待っている。 現在自律型AIは詐欺的な投資案件として私は理解しているが、私の考えている矛盾を誰が？どのタイミングで現実化してくれるか？ それを含めて楽しみな案件だ。 ⑦数学の役割。 数学の役割は物理学を解体する為のナイフとフォークのような道具だ。 学問といった難しい話でもなく、単なる道具にすぎない。 英語は欧米人と意思疎通をする道具だ！　と同様に考えてもらって構わない。 ご飯を食べるのに学校でフォークや箸の使い方をあまり教えないのと同様、自然に習得してほしい。 そうしないと重力の事や、空が何故青いのか他人に説明できない。 そして以上の古典物理学は量子力学の初歩を成し、観る事ができない量子の存在を他人に説明できない事になる。 分かりやすく言うと、量子は物理的な壁をすり抜けるトンネル効果がある事が広く知られる。 その量子（この場合は電荷）を大量に扱い計算器や測定器として動いているのがコンピュータである。 未来の量子コンピュータは研究が始まったばかりであるが、AIはそのコンピュータの中でしか生きていくことができないモノだ。 量子コンピュータというカッコいい未来の課題があるが、古典コンピュータと呼称される現在のコンピュータが量子そのものを大量に扱うマシンである。 実はここに答えそのものが転がっている。 ２０世紀最大の発明は半導体を成すダイオードの発明だ。　といって大過ない。 数学を捨てる。という事は自分でエネルギーの計算を他人に任せて検証を自分でしない行為に近く、コンピュータの事を理解しない事に等しい。 私個人は数学を捨てるなかれ　と強く推奨す。 そうしないとAIやコンピュータの事を理解できないだけでなく、広範な未来予測も大きく間違う。 数学を極める必要はないが、物理学がどの程度必要なものか？理解していないのであれば民主主義の世界で生きていくことは難しい。 そうしないと他人の意見のどこが間違っているのか？ どこで間違ったのか？すら議論にすらならない。 ⑧論文と日本の大学入試共通テスト やっているのは東京大学筆頭の官僚の組織にとって必要な人材を見分ける選別作業。 例えば円周率πが3.0以上3.2以下で説明せよ。といった説明を日本人学生に求める。 説明の仕方は個性があってもよろしいが説明せよ　という出題だ。 正直、円周率は３倍程度である事を理解していれば良く、３倍から大きく間違う意見でなければビジネスとしては問題がない。 そんな出題よりも、現在の未解決問題や定義した方が良いAIの規制の意見を書かせた方が優秀な人材を見分けるテストに適していると言える。 実践型の欧米型。テスト方式の日本型。比較するだけ無駄。 ⓽優秀なのは推薦で入った人間か？ 経路なんてものはそもそも関係ないはず。 教師側の採点基準にもよるだろうが、推薦で入った人間が優秀か？ 私の中で、そのような解は無いどころか、逆の評価をしている。 大学入試で推薦での入学は廃止にして頂きたい。

1:00 技術の拡散っていう意味だと、その技術のUIをマスが利用可能なレベルまで削ぎ落とされた時点から拡散可能なんじゃないかなぁ。例えばWindows95、iPhoneとかね。

そうか…「AIの自立」という問題があったのか…。

AIが勝手に買い物する時に、デジキーじゃなく秋月で買ったらシンギュラリティだと思う。

秋月電子🤣

入試の段階でピークを迎えてる人もいるよね。

何なんだろうね。アフォの１つ・・・のように、すぐにリスクを言いたがる人。歴史を学べば人間は社会システムを修正してすべて対応してきてるつーの。現代社会で、車や列車や航空機を危険だから使わないという選択肢はねーじゃん。

AIに怯えるのではなく、上手く利用し共存していかないと。

面白かったです。 エコシステムとして、大学ベンチャーがありますが、頭がよくても「商売センス」は別物なので成功するのが難しいです。（東大とか慶應とかはまあまあ成果が出ているようですが。） あと、日本人は悲観遺伝子の持ち主が多いので、起業そのものをあまりしないです。「侍文化」もあるので、あまり「あきんど文化」がないです。CMU留学していたとき、えらい教授が速攻で起業してましたが、日本ってあまりそういうのがないので・・・。でも、アメリカ留学している若い日本人研究者は、ちょっと起業に前向きになっていてよいかなあと思います。

もうPCはある部分で人間を超えているよ。 記憶容量のハードディスクや計算をする並列型のCPUの進化は人間を超えている。 感情を備えたロボットも急に出てくるわけではなくハードやセンサーの進化と共に徐々に実装されていく。 AIの進化も少しづつ行われていくわけで記憶の部分では既に人間を超えている。 計算速度も人間を凌駕している。 シンギュラリティ（技術的特異点）は各分野においてとうの昔に起きて通過していて既に人間を超える部位が多数存在する。つまりAI＞人間の分野は多数存在している。で今の日本の一番の問題点は詐欺政治家に日本人がその将来を委託しているところ。これが一番の問題で俺のノートPCなんかそのせいで中古の１万のものだから。どんだけ開発に悪影響を及ぼしているかという事だからね。

材料を買いに行ったり、お金払ったりとかはまだAIには無理との例え話がありましたが、ネット通販で買えば歩く必要もなく、仮想通貨や株式のようなものを発行すれば、労働せずに現金が手に入るので、ちょっと例えとしては間違っているのかと。

ユーザーの質問に対してLLMがどの資料を参照したのかをみる権利は保証されるべきだと思うな。

茂木さんの事コメントでディスってる人ってだいたい成田さんの影響だしそんな奴らはだいたい収入が茂木さんの10分の1以下だしLINEの友達上位40人くらいみて自分の今の立ち位置考えた方がいい

19:41 当分人間の手を離れてはいかないをテロップ出しするのはミスリードだと思うけどな むしろ、既に離れてるって話

まだバージョン4やぞ😅 毎年1ずつアップデートしても 10でるのにまだ６年かかるわ😂

AI倫理の実装がないのと、無意識にロボットやAIに、ロボットやAIを作らせようとしている技術者がいるのが、危険かなと思います。それって、「生殖・増殖」になるので、もうターミネーターの世界になってしまいます。

茂木さんて脳科学者として何か実績あるの？

ちょっと見当違いな議論に感じた。 核心がこの二人は見えていないな。

東大の工学部にプロンプト工学科を新設すれば良いと思う

21:08

マウント取らないと生活できないからね。

ＡＩは自身でプログラムを作れます抑えれません

ファシリテーション不在の時間が長すぎるかな。 茂木さんの冗長な相槌は時間とコミュニケーションコストを消費するばかりでファシリテート効力無いです。 同じことの繰り返しを聞きたい層/聞いても不快にならない層は地上波の視聴者だけ。せっかくの会話コンテンツの中で車輪の再発明をしないで。 途中から「能力試験はペーパーテストは今のままで良い」とか、「日本語くらい分かってなきゃ」とか、「アカデミアに残ってくれなきゃ困る」とか、話がポジショントーク的な方向になってきてなんか浅堀りだなぁって感じになってつまんないですね。

ChatGPTは弱いAIって言う煽りなのか何なのか。人間だって全部一人でできる人間はいないので、それを強いAIの定義にするなんて、ゴールの先送りも甚だしいと思うけど。

炎上ツイートは、金儲けにしか見えないですね。 フォロワー集め、有名になりたいというのを、ネガティブな内容を見つけ、それによってかかって、乗っかることで得られたものにあまり価値はないですね正直

羽生？ハブ？

認知的複雑性が高いと、人は伸びますよ。社会心理学の先生がいってましたが、考えが狭いと認知的複雑性が低いのですが、思い込みが強く、ブレークスルーや科学的にフラットな考えができません。たしかに、貧困層と話すと思い込みばっかり、変な間違った洗脳まみれ、視野の狭さは目立って、認知的複雑性が低いというのが顕著にわかります。礼儀もしりませんし、謙虚さもなく、ダニング＝クルーガー効果のそのままだなあと思います。養老先生のいっていた「バカの壁」そのものだとわかります。

「著作権」 法律を改正して、著作権を廃止すればいい 無償で著作物を作りたい人が、著作物を作ればいい アマチュアの方がアーティストとして優秀だと思う 「ベルヌ条約」 ベルヌ条約から脱退すればいいと思う 「規制は悪です」 規制は既得権者の欲の産物である 自由に生成ＡＩを開発して、自由に使用するのが正しい道です