「人工知能―人類最悪にして最後の発明」(ジェイムズ・バラット) [サイエンス]
昨今よく目にするようになった(あのホーキング博士も警告している)AIの危険性を告発する論考だ。当然、かなりセンセーショナルな本である。
AGI(人工汎用知能=人間並みの思考力を持つ)がまず生まれ、それが自律的に自己進化してASI(人工超知能=ヒトを遥かに超える)になる。こうなるとヒトの千倍もの賢さを持つにいたり(=知能爆発)、人類が想像し得ない発想と力をふるい得る→人類絶滅の危機が来る!と。人類に「フレンドリー」なAIを信じて安心する根拠は無い。
この恐るべき危機が何度も何度も強調されるのだが、論旨展開には若干不備と言うかアラがある。AIの仕組みやアルゴリズム、進化していくプロセスのメカニズムに関する技術的説明が欠けているのだ。これは著者がTVプロデューサーで技術的には素人であり(想定読者もまた同じだし)、そういう部分は本来この本の守備範囲ではないから、と言われるかもしれない。しかし、そういう知識が無いと、それを前提に展開される今後の予想自体の読解も難しくなるし、リアリティを損なっているのではないだろうか?
技術的な問題点への疑問はいろいろある。
最も大きなのはやはり〈自我〉〈意識〉を本当に作り出せるのか、あるいは自己進化で自然発生し得るのか?ということ。と言うより以前に、それらのメカニズムは解明されてもおらず、現在その見込みも立っていないと思うのだが、単純な量的線形予測でAGIの達成などマトモに論じられるのだろうか?と。
身体性の必要性に関しては問題になっていると触れられているが、それに関連して〈無意識〉無しに意識が成立するのかしらん?などと自分としては思ったりもした。
あと「人が想像し得えない」ことは、単にレベルが高すぎて、というよりヒト型知性とは全く別の形で発生したりしないのか?などという疑問もある。研究ではヒトの脳の再現(リバースエンジニアリング)的な方向であくまでもヒト型意識を主流と考えているらしいのだけれど。
そういう疑問はあるのだが、それにしても多くの取材を経て辿り着いた結論には、それなりの説得力がある。
恐ろしいのはAI研究の規制がちゃんとなされておらず、各国・各企業・各組織が大金を投じて開発競争に血道をあげている状態で、これはちゃんと制御し安全策予防策を採ることなど不可能であるということだ。
いずれにしろこの警告・危険性は聞き捨てならない、と感じた。SF的あるいは老荘思想的に言えば、人類はいずれこういう「偉大な知性」を生み出すための壮大な宇宙的進化プロセスの一部を担わされた存在だったのだ、という諦観もできるかもしれないが、そう簡単には悟れないか。「人間原理」ならぬ「AI原理」?
訳者あとがきで「今の宇宙がどこか異星で生まれた超AIに支配されていないという事実が、こんな事態は無いことの証明」などと言っているが、ヒトの知性の千倍だから超光速航法を実現できる筈、と見做すのは性急すぎるだろう。一惑星ないし太陽系内に限定された文明レベルでAIが支配しているところの可能性は否定しきれない。
AGI(人工汎用知能=人間並みの思考力を持つ)がまず生まれ、それが自律的に自己進化してASI(人工超知能=ヒトを遥かに超える)になる。こうなるとヒトの千倍もの賢さを持つにいたり(=知能爆発)、人類が想像し得ない発想と力をふるい得る→人類絶滅の危機が来る!と。人類に「フレンドリー」なAIを信じて安心する根拠は無い。
この恐るべき危機が何度も何度も強調されるのだが、論旨展開には若干不備と言うかアラがある。AIの仕組みやアルゴリズム、進化していくプロセスのメカニズムに関する技術的説明が欠けているのだ。これは著者がTVプロデューサーで技術的には素人であり(想定読者もまた同じだし)、そういう部分は本来この本の守備範囲ではないから、と言われるかもしれない。しかし、そういう知識が無いと、それを前提に展開される今後の予想自体の読解も難しくなるし、リアリティを損なっているのではないだろうか?
技術的な問題点への疑問はいろいろある。
最も大きなのはやはり〈自我〉〈意識〉を本当に作り出せるのか、あるいは自己進化で自然発生し得るのか?ということ。と言うより以前に、それらのメカニズムは解明されてもおらず、現在その見込みも立っていないと思うのだが、単純な量的線形予測でAGIの達成などマトモに論じられるのだろうか?と。
身体性の必要性に関しては問題になっていると触れられているが、それに関連して〈無意識〉無しに意識が成立するのかしらん?などと自分としては思ったりもした。
あと「人が想像し得えない」ことは、単にレベルが高すぎて、というよりヒト型知性とは全く別の形で発生したりしないのか?などという疑問もある。研究ではヒトの脳の再現(リバースエンジニアリング)的な方向であくまでもヒト型意識を主流と考えているらしいのだけれど。
そういう疑問はあるのだが、それにしても多くの取材を経て辿り着いた結論には、それなりの説得力がある。
恐ろしいのはAI研究の規制がちゃんとなされておらず、各国・各企業・各組織が大金を投じて開発競争に血道をあげている状態で、これはちゃんと制御し安全策予防策を採ることなど不可能であるということだ。
いずれにしろこの警告・危険性は聞き捨てならない、と感じた。SF的あるいは老荘思想的に言えば、人類はいずれこういう「偉大な知性」を生み出すための壮大な宇宙的進化プロセスの一部を担わされた存在だったのだ、という諦観もできるかもしれないが、そう簡単には悟れないか。「人間原理」ならぬ「AI原理」?
訳者あとがきで「今の宇宙がどこか異星で生まれた超AIに支配されていないという事実が、こんな事態は無いことの証明」などと言っているが、ヒトの知性の千倍だから超光速航法を実現できる筈、と見做すのは性急すぎるだろう。一惑星ないし太陽系内に限定された文明レベルでAIが支配しているところの可能性は否定しきれない。
コメント 0