No video

#意識

  Рет қаралды 6,746

茂木健一郎の脳の教養チャンネル

茂木健一郎の脳の教養チャンネル

Жыл бұрын

ChatGPTのようなLLMの本質や、人間と人工知能のalignment、そしてConscious Supremacyについて考えます。
#茂木健一郎 #脳の教養チャンネル #自分だけの部屋 第21回

Пікірлер: 39
@redbear0925
@redbear0925 Жыл бұрын
勉強になります。 バスケットの指導では、勝つ為に、上手くなる為に新しい技を教えます。そして身が身に付くまで何回も何回も練習をする!という話をしますが、私的には先生の本を読んだ後、新しい技を教える時は「意識」して大胆に表現できる仕掛けを作り、それを時間プレッシャーなどの環境を与える事で「無意識」に変わって行き「できた!やった~!」という瞬間が生まれるようにプログラム作りとその実践に励んでますが、その確認という意味でも現在の自分にとって大きなサポートになりました。ありがとうございます。
@yoshikawa5807
@yoshikawa5807 Жыл бұрын
非常に興味深いお話なので、色々と閃きがあります。自分の感覚から現れるものですのでご了承ください。  ChatGPTのようなLLMの本質は無意識に置かれていらっしゃるのは同感です。動物の体のように、人間の体のように機械的に計算されている部分だと私は思います。その無意識が環境を通じて環境の属性として感じるように脳が処理しているとおもわれ、その一部が意識に挙げられてると感じられます。人間が理解していないのがここなんです。仏教では法鏡と言われる境地ですね。これを認めてしまうと大変なことになるから皆人間は認められないと思います。  これを認める人と認めない人の探求は大きく変ってしまいます。研究を発表しているほとんどの人々はそれを認めることが出来ないので何が起きるかと言いますと、自分自身の現在位置というか仏教での法鏡を認められないので、そこからの発芽がありません。自己造層が働かないと思います。それを前提にして自分の意識をメタ認知していくと本当に面白くて、私自身の世界が見えてくるんです。  興味深い動画有難うございます。
@Channel-go1os
@Channel-go1os 2 ай бұрын
博学なのはわかった。でも、いわゆるサイエンスの世界でこの人は相手にされてるのかな?とふと思う
@TheHiguchi01
@TheHiguchi01 Жыл бұрын
スイッチングしていく意識のお話をうかがっていて、瞑想時の心の動きを思い浮かべました。 多くの方が体験しているとは思いますが、私の理解では、瞑想は次のように進んでいきます。 まず、静かで暗い場所に座り、目を閉じて心を落ち着かせて、ただただ、「何も考えない」状態にしようと努力します。 ところがそのままでは、どんなに「何も考えないようにしよう」としても、ザワザワと様々な想念が浮かび、「何も考えない」ができません。 それこそ、「コーヒーが飲みたい」とか、「電話しなきゃ」などの考えが勝手に現れて途切れません。 そこで、頭の中で意味のない音の羅列だけの言葉を思い浮かべ、その言葉を繰り返すことに意識を集中します。 どんな想念が浮かんできても構わず、とにかくその言葉を繰り返すことに徹底的に集中していると、少しずつ想念が浮かんでこなくなり、やがて静けさの中で、意味のない言葉の繰り返しだけが鳴り響く状態になります。 この状態をしばらく続けていると、「集中しているのに何も考えていない」瞑想モードに入ります。繰り返していた言葉さえも消え去って、無限の空間に漂うような、体から解き放たれて空間全体に広がって存在するような状態になるのです。 私はこの過程で感じるのは、「何も考えない」と努力する心が意識であり、「何も考えない」ようにしようとしても、浮かんでくる想念や言葉は無意識なのではないかということです。 無意識は自分なのに、他者のようでもあります。語り合うこともできますが、思い通りにはならない。 現在のAIを、無意識の領域の存在と同様のものであると考えるなら、イーロン・マスクのニューラリンクがやろうとしている、脳とAIをつなぐこともできるのかもしれない…などとも思いました。
@getwoofwholes
@getwoofwholes Жыл бұрын
最近、海外のドクターたちのユーチューブをたくさん見ているのですが、以前、茂木さんが「底辺ユーチューバー」を自称されていた気持ちが少しわかりました。 撮影機材の質や再生回数が茂木健一郎さん含めて日本の志ある方々のチャンネルに比べて段違いで、僕たちは僕たちでもっと知的な空間を広げていく必要があるのだ、と思った。あ、これは、この動画とは関係ないコメントですー。でも、こうしたどうでも良さに真剣さがこもる。これから視聴します!! 視聴しました!やっぱり、茂木さんは意識や知能の話が一番面白いです!!大好き!
@Itsukiemori
@Itsukiemori Жыл бұрын
茂木さんは本当にクオリアについて迫っている様子が伺えます。僕がこのチャンネルに登録し続ける理由です。AIは身体がないので痛みなどを理解することが出来ないでしょう。それは心の痛みとしても繋がると思います。この身体的な判断が介在しないので、正論かもしれないけど無理なこと、或いはとても難しいと感じてしまうこと。この正しいかもしれないけど無理、という感じは、人工知能では判断出来るのでしょうか。また、身体性は生後からずっと続いているので、それぞれの人たちが持つ身体の軸を、個別個別に判断することは人工知能には一生出来ないのではないですかね。判断できるのはあくまで個人の質感が捨象されて一般化された大文字の他者に過ぎず、そこに個人は一人もいない。一人の人間としてのクオリアを隅々まで認識できるのは、自分自身はもちろん、自分との関係を長く持つ何者かでしかなく、個人の質感に対する人工知能のあらゆる提案は虚しいのではないでしょうか。優れた作家は文章生成AIを利用したがらない理由にも繋がると思います。つまり、人間の相手はそれぞれに無意識に加えて自他を区別する意識があるため、その意識を傷つけないように接する必要があり、傷は身体があるから付く可能性があるのであって、人工知能は身体がないので傷がつく可能性はないと言えると思います。だから意識にしか出来ない計算というのは、傷が付く可能性を減らそうとする計算であり、これは岡潔の言うところの「情操」に値し、つまるところ人間にとっての最も重要なことはこの「情操」を定言命法の如く実践することではないでしょうか。また生物学的な意味ある計算で意識の解剖を終えるためには、つまるところ「我思う故に我あり」としか言いようがなく、どれだけ分別智を働かせても意識は恐らく宇宙の年齢を過ぎても辿り着くことはないのではないか。ただ、分別智を働かせて意識について解剖し続けることは、意識であることと、そうでないことの区別はより明瞭になっていくことはあると思います。決して意識そのものには辿り着かないでしょうが。またある個体を超える計算時間は十分意味があると思います。意味のある計算時間を少なく見積もっても、人類が一人残らず絶滅するまでの時間の長さまでは意味があると言えると思いました。なぜ、意識を介するとさしあたり計算が終わるのか、というのは、意識は自我であり、自我は幻想であり、幻想は各々が好きなように構築できる無明であるからだと思いす。だから計算の長さと答えは各々が好きなように決めているだけであって、その答えが大文字の他者として、全ての存在に対する共通の認識としての一般化へと繋がることは、多分無いんじゃないでしょうか。僕は他人の言葉をたくさん借りてしまいますが、やっぱり、スミレはスミレのように咲けば良いのであって、春の野に対してスミレは預かりを知ることはないでしょう。
@user-fl2zv7qg7r
@user-fl2zv7qg7r 8 ай бұрын
先生も海外からおかえりで、いろいろ、根をつめたとおもうので。お身体だいじに!
@user-fl2zv7qg7r
@user-fl2zv7qg7r 8 ай бұрын
え~と。がんばります。坊っちゃんの分析、先生の本へのリスペクト。あとは、厳選は最後に。いまのとこは考えながら。(好まれるおきまり➕オリジナル)
@yoshikawa5807
@yoshikawa5807 Жыл бұрын
素晴らしい課題を与えてくださり有難うございます。  quantum supremacyとconscious supremacyの違いも考えています。これは物質のハードウエアに関係しているのではないかと考えていて、人間は最高のハードウエアを持っているのと、量子の振る舞いが人間の観察によって変る事実から宇宙創造の目的は人間創造と考える人もいて、一応その考えを受け入れてます。そうするとquantum supremacyとconscious supremacyの違いも自分なりに見えています。それから計算、出力についての学習について説明されていました。  もう一つ入力に対する人間の信号を現象学的に捕らえて考えるのですが、視覚、聴覚は外の環境との関係からの入力が強く、臭覚と味覚は、外との関係と身体性から得られる感覚があって、少し違うように思います。一番面白いのが人間の触覚です。これは触れた肌の感覚ですが、面白いです。触覚は個人の感覚の世界が非常に強いです。外部の現象とは日常の生活では他の感覚よりも個人の感覚つよいです。  日常の生活で現象学的に自分も理解しようと努力しています。私の家に来る野良猫を観察しています。猫は実に現象学的に環境を捕らえてて、計算論敵に分析しながら行動しているように見えます。私も動物には意識はないと考えている一人です。計算論的な無意識で動物は動いていますがお、そらく動物はquantum supremacyで計算論敵に無意識の世界で行動している様に見えます。しかし、人間の体はquantum supremacyで計算論敵に無意識の世界とそれからconscious supremacyの意識の世界を持っていて、ほぼ仰っていたことに関しては同意できます。もし間違って理解しているのしたら、また訂正したいと思います。    それからconscious supremacyのお話で人間の無意識での計算が確率による計算で成されていて解等のない方法でなされていると思いました。車の故障診断を私はやってきました。その時に経験のある人は体験から決め付けてしまって、間違うことがあります。でも、決め付けないでいろいろな原因の中から可能性、確率、部品の形状、電気的部品の故障とか症状から可能性を考えながら解いていく方法をしているといつの間にか直ってしまうことがあります。難しい故障診断のときにはそのように分析しています。だから私はここが悪いからこうなるんだとは言わないです。分からない状態の中で確率計算で解等のない計算を繰り返しているかもしれません。あくまでも私の日常生活での感覚で得たものです。
@user-ur2is7cl3x
@user-ur2is7cl3x Жыл бұрын
フェアなご説明をありがとうございます。
@user-is7ou4od4p
@user-is7ou4od4p Жыл бұрын
茂木さんがんばってください!
@yoshikawa5807
@yoshikawa5807 Жыл бұрын
道具とエイジェントの概念での説明が良かったです。人間関係で道具として人を使う人かなり多いです。AIはもっと便利が良いです。対象を道具として使う人はそこから脱却できずに過ごすことでしょう。その様な人には意識の探究は無理です。
@unibaasu
@unibaasu Жыл бұрын
色々整理された様な気がします。そして、整理された分、新たな問題が出てきた様な気もします…orz 富野由悠季監督はよく「手癖」で仕事をするな!と仰るらしいですが、その「手癖」というのはここでいう「無意識」なのだと思います。つまり、クリエイティブの現場ではそれだけ「意識」を働かせる必要があるのだと思います。 「手癖」と「無意識」を突っ込むと、「無意識」でできる様になったタスクというのは、時としてそれが本来持っていた「文脈」から逸脱してしまう事が多々ある気がします。 形式をなぞっていれば、本質から離れていても観る者を誤認させてしまえるという事だと思います。ChatGPTが堂々と間違った事を出力している様は、その様な「文脈」を扱う能力が弱いもしくは無いからかも知れません。 しっかし、当の人間でも「無意識」に甘えて失敗する事が多々あるのに、Conscious SupremacyをもってしてAI alignmentを目指すというのは、マッチョな世界観かも知れませんね…
@thomasaqinas2000
@thomasaqinas2000 Жыл бұрын
「習慣化された」=「無意識化された」、これを身体制御作用で眺めると、当初、意識的に運動しはじめ、次第に無意識化するということですよね。リベットの準備電位のアイドリング状態で制御する。自動車運転なども、ほぼ、その行動であり、自由意志的な責任は、言うならば、その上位の意識、「さあ、運転しよう」として方向づけた意図を持つ意識に問われるのだろうと思います。  ところで、上の様に「無意識化された」作用が、「自律神経系の様に作用している」とすると、生物の神経系が構築されていく経過で眺めたとき、マルコフ的連鎖的に再帰性を反省的作用で「メタ(意識)化」することが可能となるような構造が構築されていく状態を探ってみると、「意識」作用の発生が理解できるのも知れないと、思いました・・。
@machida5114
@machida5114 Жыл бұрын
ペンローズが指摘したように数学の直観的理解は意識にしかできないと思います。 それは大規模多世界計算(/量子計算)だと思います。それによって組み合わせ最適解を見つけます。
@machida5114
@machida5114 Жыл бұрын
進化が 適応上 大規模多世界計算(/量子計算)を見つけ、量子もつれ状態が たまたま 主観的経験を持つのだと思います。主観的経験を持つ「何か」はモナド的である必要があり、量子もつれ状態は、部分に分割できない、かつ、大きな情報を持ちえる 唯一のモナド的な物理状態だと思います。
@machida5114
@machida5114 Жыл бұрын
脳の量子もつれ状態が主観的経験を持ち、その意識内容は、大脳皮質に分散して存在する一時的な記憶が持つ情報からホログラムの様に実現されていると思います。 その際、一次感覚野と一次運動野とを含む自動(/無意識)経路は量子もつれ状態に参加しないと思います。
@machida5114
@machida5114 Жыл бұрын
私はゴキブリが脳のキノ体で量子計算を実行していると思います。それによって複雑な環境で移動していると思います。ゴキブリは主観的経験を持つと思います。
@TwinAntler
@TwinAntler Жыл бұрын
意識とAIを巡る、核心的なお話を聞かせて頂いたように思います。有限な人間に特徴的な思考法…。それは結論を見越して、前提を変える、というようなことでしょうか?
@ppp6147
@ppp6147 Жыл бұрын
先生、私は時々、自分の子供ですらAI的であると思うことがあります。ものすごく努力家であるし、継続するために感じることなしに進んでるなと思う時はあります。でもそのことで段階を踏みクリアして進歩していると思います。要するに感情なしに考えずにも生きられるのではと。でも母親としてはそれはとても危険で、こわいと思うので、別の方向へ持って行きたくなります。半ば強制的にしないとそれはとても危ないのではと。これはただのカンですが。
@user-tj7np1oj7y
@user-tj7np1oj7y Жыл бұрын
Conscious supremacy,意識にしか計算できないこと、Quantum supremacy 量子でしか計算できないこと、  意識に量子力学が関与しているなら、両方は類似する可能性が。  とても興味深い問い掛けです。
@user-qn6go9df2o
@user-qn6go9df2o Жыл бұрын
生成AIは無意識化(水面下)の習慣化された知能であり、一方人間の特徴ある知能は意識上(水面上)のまだ習慣化されていない知能であろう。水面上で確定した知能は水面下に潜り込んで無意識的な知能(思考の習慣)に変わるが、水面上では様々な思考の試行錯誤が繰り返されるので、なかには一時的に存在してもその後は棄却されるのものあるだろう。古典力学と量子力学との関係でいうならば水面下は古典力学、水面上は量子力学的なイメージか?言い換えると、水面上の多世界解釈的な宇宙においてデコヒーレンスした知能が水面下に潜り込んで、知能の過去の歴史(発展の経路)を形成&蓄積しているのかも知れない。
@user-fl2zv7qg7r
@user-fl2zv7qg7r 8 ай бұрын
存分に先生の才能を世のために、みせてあげて。
@user-we6vr3tw4d
@user-we6vr3tw4d 2 ай бұрын
自分で 会話して 自分で 答えー 探す 妄想 相手が 眼の前に いれば~話す 答えは 変わる a B  は~変化する 心情が 瞬間に 変換する 見たら ユラギ が~変化する COCOLO の~ユラギ 好きか 嫌いか、ソコが 答えー😂👽😭🙏
@waibmyzr
@waibmyzr Жыл бұрын
野生動物の意識は見えない存在に対して行動するためシステムだと思います。 無意識は感覚で検知している情報しか処理できないので、目の前に無い存在に対して行動できません。 水や餌がどこにあるか、記憶から行動する為には意識のような情報処理が必要なはずです。 スイッチングして違う立場から話す時も、見えない存在を思い出して文脈に取り込む事だと思います。 現在のAIでは情報の抽象化できていないので有限リソースの判断が苦手なのだと思います。
@miinaniina
@miinaniina Жыл бұрын
イスラム教とかは偶像崇拝禁止してるんで、人間の論理モデルなら同じ原理でも簡単に動作すると思います。
@thomasaqinas2000
@thomasaqinas2000 Жыл бұрын
諸機能・諸作用においては、様々な人工的オペレーター・機械が、人間をはるかに凌ぐことは、別段、不思議なことではないと思います。先回にもコメントさせていただきましたが、そもそも機械化は、人間の労力を軽減する目的で進められてきたわけですから。  茂木先生が「道具」と表現されていましたが、当面、現在までのAIは、それであると思います。今井むつみ先生がLLMの深層学習がレベルが上がった理由に、教師あり学習で、記号接地させるような選択学習をさせたからだろうとされていましたが(kzfaq.info/get/bejne/jtGSic1h37G3cZs.html)、 道具として見れば、刀を研ぐような、PCでもアップデートを常にするようなことの延長になるのかもしれません。  そして、茂木先生が「意識の超越性」に触れられ、量子にも関連させられたことには、共感します。それは、システムとフレーム・スケーリングとの関連で思うことです。  システムはobjectiveに現象領域に作用する様式であると定義できると思います。プリゴジンの複雑系理解から社会学にシステム論を展開したルーマンの観方では、対象世界には無限の階層のシステムが広がっているとされます。  それに対しフレームは、マービン・ミンスキーなどもデータに数学的な観点のフレームを与えて、データの表す内容を捉えるとした、要は諸分野での「ものの観方・考え方」だと思います。  さらにそのフレーム・ワークを対象世界の大きさに合わせてスケーリングをする。宇宙の時・空の規模を、まさに時間歴にも空間的にもフレームをスライドさせながら眺める。そうしたところから、マクロ・コスモスとミクロ・コスモス、相対性理論と量子力学とが「ウロボスの蛇」の様になっているのでは、といった、観方が出てきているのだと思います。  茂木先生が仰られる「超越性」とは、このフレームをどんどん変えて、スケール上を動かして眺める作用の様な気がします。  この作用を「意識」としてどうやって、生命が獲得したか?やはり神経系が単純反射、自律系からいっそう進んで複雑になり、その作用を作用が眺める位置に作用を置いた、マルコフ的な再帰作用、自己言及的な反省作用、それが発生してきたからではないか、と、思えます。  茂木先生の頭脳でないと、この辺りは、もう私では分りませんが・・。
@user-fr2qm3ye2y
@user-fr2qm3ye2y Жыл бұрын
なぞるとそれになる、それになるとなぞられる。そして、自分になる。成立ちが、太くなる。数字の2をなぞって思った事。
@tyoko5144
@tyoko5144 Жыл бұрын
つまり、どういうことですか?
@miinaniina
@miinaniina Жыл бұрын
人の背中を人で推す!!😁
@Mrjyosuke
@Mrjyosuke Жыл бұрын
で、その計算はコンピューターで計算できるんですか? 出来ないならその理論的根拠は? あと量子力学計算が意識的計算の正体だとすると、脳とクオリアの内容は全く意味ないんでは?
@user-xw7bm6xb7r
@user-xw7bm6xb7r 11 ай бұрын
意識と無意識の境目に何があるんだろう
@user-ve9nw1uk5m
@user-ve9nw1uk5m Жыл бұрын
記憶以外ない。
@masai8301
@masai8301 Жыл бұрын
■『意識 にしかできない計算はなにか? 』という問いを意識的に考えてみるって、確かに改めて考えると、斬新ですよねぇ…。
@JohnDoe-ud1ve
@JohnDoe-ud1ve Жыл бұрын
AIがクオリアとか理解できるのか
@user-wg2my3yt2z
@user-wg2my3yt2z Жыл бұрын
昔、経済シュミレーションをつくろとしたが、AIが必要だ、意識が必要だ、と、諦めた事がある。例えば自動販売機で、オレンジ味のジュースを選ぶか、りんご味のジュースを選ぶか意識感覚で選ばれる。意識感情感覚が無ければ、人間は3食一生、味のないカロリーメイトのようなものを食べているかも知れない。材料や道具や施設が同じだけど、チャーハン職人の腕で、繁盛店か閉店か決まる点、この宇宙は、意識を持つ私たち、宇宙内外の自意識をを持つ量子的観察者達が、喜ぶ事や幸せな事になる事を支援している感じがする件。
@PH-MEDIA-CONSULTING
@PH-MEDIA-CONSULTING Жыл бұрын
喋らんでいいから、役に立てよ。
人工知能アラインメントと、意識的超越、そしてイーロン・マスク
30:52
茂木健一郎の脳の教養チャンネル
Рет қаралды 3,7 М.
Can A Seed Grow In Your Nose? 🤔
00:33
Zack D. Films
Рет қаралды 32 МЛН
今すぐ知ってほしい研究の第1位はこれ【脳科学】
11:57
deriba | 脳研究
Рет қаралды 4,6 М.
#幸福 は、「ゴール」ではなく「出発点」である
30:57
茂木健一郎の脳の教養チャンネル
Рет қаралды 6 М.
【ダイジェスト】茂木健一郎「クオリアと人工意識」
27:25
WATERRAS BOOK FES ワテラスブックフェス
Рет қаралды 7 М.