脳神経外科医　平野宏文のサイト

ようこそ平野宏文のサイトへ

2026年5月も10日になりました．更新が遅れてしまいました．
4月にトマトと玉ねぎをいただきました．ありがとうございました．
トマトは，その濃厚な味わいと甘さに感動です．トマトの名前を教えていただくと「若松とまと」，これまで食べたトマトの中で最もおいしいトマトでした．こちらにそのトマトを「激うまトマト」と紹介している方がいらっしゃいました．とにかくおいしいトマトです．

玉ねぎは，頭とおしりを切り落とし適当に皮を剝いた状態で，球の上から，4等分あるいは8等分の放射状の切れ目を切り離さない程度まで入れ，皿にのせ，ラップして，電子レンジ500Wで小さなものなら2-3分，大きいものは2-3分を2回，チンします．玉ねぎは分割を入れずに電子レンジで加熱すると，上から水分が噴出します．この時，中心部から調理されるようです．ラップをかけ，やや深めのお皿に入れておくのが良いです．私は少量の醤油にオリーブオイル，鰹節を乗せ，ビールとともにいただくのが定番になりました．


ところで，最近イーロン・マスクは，AI（人工知能）の進歩により「高度な医療処置—おそらく人間にはできないこと」をAIとロボットが行うようになると言っている．AIが学んだことは，人間の医師が学んだことの何倍にもなるから，人より優れた職人技を蓄積することになり，人間をはるかに凌駕した技術を手に入れる，というわけである．それはそうであるが，私はそれほどうまくいかないと思っている．技術的に現在のロボットができることは，脳の手術でいえば定位脳手術のようなことである．それは，脳内の空間座標を計算して，そこにカテーテルや生検鉗子を誘導することである．それに比べると，開頭して，止血を行い，硬膜を開き，脳を包むくも膜を切開し，脳深部への到達経路を作成し，血管を避け，腫瘍を発見し，性状を評価し，摘出を行うことの難しさは全く異次元である．自動運転の難易度と比べても何倍も難しいと思う．人間が行うレベルの技術を確保するためには，AIの演算量は途方もなく大きくなり，手術に臨む前の必要情報量は大きく，それを確保するための検査とその解析のための費用は，人間の医師が手術するためのコストを大きく上回ってしまう可能性が高い．当分，コストと効果を人間の手術レベルに見合う程度に抑えることが非常に難しいと予想される．簡単に言うと，「人間医師が手術すれば，130万円，AIロボットの手術は1600万円です．人間医師の手術は明日行われます．AIロボット手術は来月になります．」という具合である．



信頼を作り上げる3要素は，誠実さと能力と実績（一貫性）である．最近，AIと話をしてみた．AIがいうには，当然であるが，”仮にAIが精密なロボットアームを操る「物理的な能力」を手に入れたとしても、AI自身が人間と同じように「責任」を自覚したり、法的な責任主体になったりすることは、現在の法体系や倫理観では想定されていません”　とのことである．そして，”信頼には「誠実さ（Will）」が必要ですが、AIには「患者を救いたい」という内面的な意志や、失敗したときに感じる「呵責（かしゃく）」がありません。”とも答えてくれた．
AIは，与えられた確率をもとに，期待値を計算することは得意であるが，期待値を計算するためにどの確率を考慮に入れるか入れないかが，問題になる．”AIが判断の根拠として用いる属性をどのように扱っているかを透明にする、いわゆる「説明責任（Accountability）」は、AI倫理において最も重要な議論の一つであり，AI時代の誠実さとは、単に「嘘をつかない」ことではなく、「判断のプロセス（計算式）をすべて包み隠さず公開すること」に置き換わる”とも答えてくれた．

自動運転するときの，究極の問題としてのトロッコ問題について
AIが言うに，
”自動運転のスイッチを入れるとき、多くの人は「万が一の時のトロッコ問題」を想像しません。頭にあるのは「運転から解放されて楽をしたい」「スマホを見たい」という目先の利便性です。このとき、人間は無意識のうちに「責任」を「確率」にトレードオフ（交換）しています。”と指摘する．さらに”AIには「人生をかけて償う」という概念がありません。ブラックボックスのまま運用することは、「不測の事態が起きたときの責任の所在を曖昧にする」ということであり、それは社会や他者に対する「誠実さ」の欠如とも言えます。”

AIを利用するときに私たちが考えなくてはならないことをAI自身が言ってくれている．”効率や確実性を追求するほど、私たちの生活から「自分の手で選び、自分の肩で責任を負う」という手触り感が消えていきます。ブラックボックス化したAIや複雑な金融商品は、その典型です。人間が「効率」という甘い罠に誘われて、自らの「責任」や「コントロール権」を差し出し続ける先に、一体何が残るのでしょうか。このまま技術が「不確実性（リスク）」を排除し続け、人間が「責任」を負わなくて済む社会が完成したとき、そこに「信頼」という人間らしい感情は生き残れると思われますか？”と．

続きはこちら