黒夜行

左脇のプロフィールにある「サイト全体の索引」から読みたい記事を探して下さい。

「AI崩壊」を観に行ってきました

僕は、「AIによる自動運転」に、強い懸念を抱いている。

ニュースなどを見ていると、自動運転の未来は、もう当たり前にやってくるように描かれている。恐らく一般的に、そういう意識の人が多いだろう。

しかし、僕は、自動運転は結局社会を変革しないのではないか、と思っている。その理由は、事故が起こった場合における人間の意識の変化だ。

そもそも自動運転について、「事故が起きない」と思っている人もいるだろう。今は実験の段階だから事故が起きることもあるけど、実際に自動運転技術が完成すれば事故は起こらないのだ、と。

ンなわきゃない。

渋谷のスクランブル交差点に差し掛かった時、歩行者が飛び出したことで事故になりかけている、と考えてみよう。この場合、その飛び出してきた歩行者を避けるためにどの方向にハンドルを切ったところで、その先にはかならず大量の人間がいる。渋谷のスクランブル交差点の映像はよくテレビなどでも流れているから分かる人も多いだろうが、あそこは常に、交差点の全方位に、信号待ちをしている歩行者がいる。事故を回避するために、ハンドルを切っても安全な方向など、存在しないのだ。そういう場合、誰かを犠牲にするしかない、ということになる。

スクランブル交差点のような極端な状況でなくても、同じだ。どの方向に転換しても誰かを傷つけてしまうという状況はいくらでも想定可能だ。

で、そういう場合に問題となるのは、「誰を犠牲にするか」である。哲学者のサンデル教授のお陰で有名になった、「トロッコ列車問題」と同じ話である。トロッコ列車問題の場合、何もしなければ5人が死亡し、線路のスイッチを切り替えれば1人が死ぬ、という状況だ。この場合、どちらを選ぶのが正しいか、という問題だ。そしてこれと同じ状況に、自動運転を制御するAIも直面することになる。

この場合、AIはどう判断するだろうか?

少し前、森美術館の「未来と芸術展」という展示を観に行った。そこで印象に残ったのが、自動運転の事故シミュレーションだ。AIにどういう風にプログラムするかで、まったく同じ状況の事故であっても、被害者が変わる、というものだ。プログラムは3パターン用意される。「A人間になるべく被害を与えない」「B ドライバーになるべく被害を与えない」「C 損害を最も最小限にする」の3つだったと思う。

Aをプログラムされている場合、状況から未来予測をしたAIは、その中から、人間への被害が少ないものを選ぶ。つまり、今乗っている車が破損するとか、周囲の建物が壊れる、というような被害を選ぶ。また、載っている車が破損することで、ドライバー自身が怪我をしたり、最悪死亡する場合もある。

Bをプログラムされている場合、たとえ人的な被害が出ようとも、ドライバーを守ることを優先する。結果的に、誰かを死亡させるかもしれない。

Cをプログラムされている場合、被害に遭い得るすべての人の保険の加入状況や訴訟リスクなどを計算し、その中で、最もドライバーに金銭的被害が少ない損害を選択する。例えば、トランプ大統領と赤ん坊が被害者になりうる状況であれば、赤ん坊が被害者になる、ということだ。

このように、まったく同じ状況の事故であっても、自動運転を施行するプログラムがどのようになっているかによって、被害者が変わる。

さてここで、自動運転の話から一旦離れよう。自動運転ではない車の事故の場合、基本的には、「事故を起こしたドライバーが被害者を選んだ」と判断される。「選ぶ」という言葉が、実情に即していないことは理解している。ドライバーは決して誰を被害者にしようなどと考えているわけではなく、咄嗟の回避行動の結果、あるいは回避行動が取れなかった結果、その人に被害を与えてしまうことになるのだから。しかし、意識的でないにせよ、結果的にドライバーの行動の結果によって被害者が決まっていること、そして、AIと議論を比較するための都合上、「選ぶ」という言葉で説明する。

ドライバーが被害者を選んでいる以上、事故を起こしたドライバーが責任を取るべき、というのは当然の理屈だろう。皆がそのことを了解しているからこそ、事故を起こした人間は、それがたとえ不本意な状況によるものであったとしても刑務所に入るのだし、社会もそれを当然だと受け取る。

さてでは、自動運転の場合はどうだろうか?先程の説明の通り、自動運転の場合、被害者が誰になるかは、自動運転を制御するプログラムによる。その場合、被害者(あるいは被害者遺族)は、そして社会は、誰に責任を負わせればいいだろうか?ドライバーでないことは明らかだ。ドライバーの意思は、まったく関わっていないのだから。

では開発メーカーだろうか?いや、ここは慎重に考えなければならない。僕は、「事故が起こった場合に、開発メーカーに非はないとする」という社会の合意が存在しなければ、自動運転技術は世の中に登場しない、と思っている。プログラム次第で被害者が変わってしまう世の中において、被害者(遺族)が、被害を受けたのはプログラムのせいだと訴える可能性は十分にある。事故を起こした車とは別のプログラムが搭載された車であれば、自分たちは被害者にならなかったかもしれないからだ。しかし、そんな訴訟リスクを抱えたまま、企業は自動運転を世に出すわけがないだろう。

だからこそ、事前に合意が必要だろうと思う。

その合意は、まともな形では取れるはずがない。だから、国が強権を発動して勝手に決めるか、あるいは、世の中のどさくさに紛れていつの間にか明文化されていたりするだろう。

その状態で、何か事故が起こるとする。SNSの時代だから、事故の様子はばっちりと映像に映るだろう。その時、そのまま真っすぐ進めば政治家が被害に遭うという状況で、自動運転のプログラムが判断して軌道修正し、横にいた赤ちゃんが犠牲になる、みたいな事故が起こったら、世論はどうなるだろう?

みたいなことを僕はずっと考えている。

僕の中で、今ここで書いたようなことは、時期は明言出来ないが、まず間違いなく確実に起こることだと思っている。もちろん、僕が思いつく程度のことは、もっと偉い人たちだって思いついているだろうし、そのための対策を模索しているだろう。しかし、少なくとも僕には、これを解決する簡単な方法があるとは思えない。例えば、地下に道路を作るなどして、車と歩行者の移動スペースを完全に分ける、などすれば解決可能だろうが、簡単な方法ではない。車と歩行者が同じ領域にいる以上、事故が起こることは回避できないし、事故が回避出来ないのであれば、誰を犠牲者に決めるのかという問題は必ず発生する。プログラムによって“決められた”犠牲者側が、「仕方なかった」と納得出来る可能性はまずないだろう。

「AIが社会を便利にする」ということの一番大きな要素は、「人類がAIの判断を受け入れるしかない」という点だ。AIがどんな判断をするとしてもそれを受け入れる、という共通理解を持たなければ、AIは社会の中で機能しない。もちろん、人間もバカではないから、「AIが概ね良好な判断をする」という状況にある程度はもっていけるだろう。しかし「完全に」は無理だ。AIが人間ではない以上、AIはどこかで必ず、人間にとってそぐわない判断をする。

そして、その時、AIの判断を盲目的に受け入れるということは、「人間であることを手放すこと」と同じだ。

AIは間違いなく、人間の生活を便利にする。しかしその便利さを享受するために、究極的には、僕らは人間であることをやめなければならない。これが、現状から判断できる僕の結論だ。

この映画は、僕のその結論を補強するものだと感じられたし、そういう意味で、今観ておくべき映画だ。

内容に入ろうと思います。
研究者である桐生浩介は、社会を一変する開発をする。医療AI「のぞみ」だ。国民の健康データをすべて管理し、病気になる前に最適な治療を施したり、手遅れにならない診療を行うことが出来る。「のぞみ」は、社会におけるライフラインとしての地位を確立し、あらゆる情報が「のぞみ」と連携し、社会基盤となっている。
桐生は、その開発を機に日本を離れ、一人娘である心と2人で生活している。2030年、娘の希望もあり、久々に日本へ帰国することとなった桐生。桐生は、「のぞみ」の開発者として英雄視される一方で、「のぞみ」によって職を奪われたり、貧困が拡大したと考える層からバッシングも受けていた。桐生は、そんな混乱を嫌って日本を離れたのだが、この度、総理大臣から名誉ある賞を授与されるということになり、帰国を決めた。
「のぞみ」を運営する本社でマスコミ向けの発表を行い、その後娘に初めて「のぞみ」を見せる。「のぞみ」が格納されている部屋は、核ミサイルでも破られないという強固さで、出入りは完全にコントロールされている。授与式に向かう桐生と、「のぞみ」の部屋に忘れ物をしたという心が別行動を始めた時、突如「のぞみ」が暴走を始めた。誰も、何が起こっているのか理解できない。しかも心が「のぞみ」がいる部屋に閉じ込められてしまう。「のぞみ」がいる部屋は、緊急時に冷却装置が働くようになっており、室内温度は急激に低下してしまう。このままだと、心の命が危ない。
一方、「のぞみ」の暴走の捜査を担当することになった、警察庁の天才捜査官である桜庭は、元々桐生に憧れてAIの研究を始め、そこから警察庁に入庁するという異例の経歴を持つ人物だ。彼の捜査により、「のぞみ」を暴走させたパソコン端末を持つ人物が短時間で特定されることとなった。それは…なんと、桐生だった。授与式に向かう桐生のカバンから、端末が見つかったのだ。
「のぞみ」の暴走で街中が大混乱、交通渋滞が各所で発生する中、指名手配された桐生は、警察の追跡をギリギリのところで交わし続ける逃亡劇を繰り広げる。心が閉じ込められていることを知った桐生は、警察を振り切るのと同時に、「こころ」の暴走を食い止める必要もあった。設備もなく、誰が裏切り者かも分からず、さらに警察に追われているという状況で、果たして桐生は「のぞみ」の暴走を止められるのか?また、「のぞみ」を暴走させた真犯人は一体?
というような話です。

ノンストップサスペンスという感じで、その展開も面白かったし、これから起こりうる未来に対する問題を様々に提示しているという点でも興味深い映画でした。

ストーリー展開的には、「いやー、もうそれは無理っしょ!」という状況が何度も訪れながら、その状況をなんとか回避していく、という連続で、飽きさせないですね。たまに「さすがにそれは無理っしょ」と思う展開もなくはないんだけど(笑)、まあでも、エンタメ作品として面白く見れます。

僕がこの映画を観ながら考えていたことは、この映画が「AIって怖い」という風に捉えられたら怖いな、ということです。

怖いのは、人間だ。

僕にとって、AIと原発は非常に近い存在だ。原発についてそこまで詳しくはないが、しかし、原発を支える技術そのものは素晴らしいと思う。だがやはり原発というのは、安全とは言えないという感覚がある。そしてそれは、「使う人間側の問題」だ。技術の問題ではない。人間が、原発という技術をどう扱うのか、という点において、数多くの問題が存在している。

AIも同じだ。AIという技術自体は素晴らしいと思う。しかし、それを使う側の人間に問題がある。「AIって怖い」という、AI側に責任をおっかぶせるような捉え方をしてしまうと、結局何も進まない。どういう形でかはともかく、AIが社会に組み込まれることはまず間違いない。環境問題、人口減少問題、高齢化社会問題など、社会的な問題を多数抱える日本ではなおさらだろう。AIをいかにして社会に組み込んでいくか、という観点によってしか解決されないだろうと思う問題は多々ある。

そういう時、「AIって怖い」と言っているだけでは話が進まない。AIの問題は、人間の問題なのだ。

AIと原発は、何か問題が起こった時のダメージの大きさ、という意味でも共通項がある。ほとんど問題は起こらないかもしれない、しかし起こってしまったら社会を壊滅させるだけのダメージを与えうる。こういう存在に対して、人間はどう関わるべきなのか。人間側の合意が必要だ。

何かあった時のダメージが大きいものであればあるほど、「性善説」は通用しない。それらを悪用する人間がいる、という「性悪説」を前提に考えなければいけない。その仕組みをどこまで作り上げられるか、そしてその仕組みを社会の構成員がどれだけ納得して受け入れられるか。AIが社会に導入されるか否かは、この点に掛かっているよなぁ、といつも思っている。

「のぞみ」も、人間がきちんと使えば、これほど有用なものはない。もちろん映画の中では、「のぞみ」がマイナスの要因を持ち込んだ、と主張する人々も多数登場する。僕も、個人の意見としては、「のぞみ」に管理される社会は嫌だな、と思う。しかし、もうそんなこと言っていられない時代がやってくる、というのも間違いない。「のぞみ」のような医療AIが必要なのか、あるいはまた別のタイプのAIが必要なのかはともかく、何らかの形でAIを導入して、ある程度AIに管理を任せる社会を構築しなければ、人類は地球上で生き残っていけないんだろう、と思う。「なんか気分的に嫌なんだよね」という程度の意見で反対できる状況では、もはやない。

AIの登場によって、マイナスの要素ももちろん出てくるだろう。それによって、被害を被る人も出てくるだろう。しかし、僕は、しょうがない、と思う。このことを考える時、何かの本で読んだ、昔の中国のアヘンの問題を思い出す。かつて中国は、アヘンの依存によって苦しんだが、政府はある時アヘンを禁止する決定をした。しかしそれは、ある一定の年齢以下の人たちに対してのみだったという。つまり、ある年齢以上の、依存度がかなり進行してしまっている人たちに対しては、強く取締をしなかったのだ。全面的に禁止するのではなく、ある一定の犠牲を織り込んだ上で、長い目でみて依存を解消する、という選択だ。

AIが社会に組み込まれる際も、必ずこういう判断が下るだろう。一定の犠牲を前提とした上で、全体の利益のために、何らかの形でAIが導入されるに違いない。

だから僕は、そうなった時、AIの暴走に間接的にも加担せずに済むような立ち位置にいたい、と思う。

「AI崩壊」を観に行ってきました
関連記事

Comment

コメントの投稿


管理者にだけ表示を許可する

Trackback

http://blacknightgo.blog.fc2.com/tb.php/3887-597a87c2

 | ホーム | 

プロフィール

通りすがり

Author:通りすがり
災害エバノ(災害時に役立ちそうな情報をまとめたサイト)

サイト全体の索引
--------------------------
著者名で記事を分けています

あ行
か行
さ行
た行
な行
は行
ま行
や行~わ行

乃木坂46関係の記事をまとめました
(「Nogizaka Journal」様に記事を掲載させていただいています)

本の感想以外の文章の索引(映画の感想もここにあります)

この本は、こんな人に読んで欲しい!!part1
この本は、こんな人に読んで欲しい!!part2

BL作品の感想をまとめました

管理人自身が選ぶ良記事リスト

アクセス数ランキングトップ50

TOEICの勉強を一切せずに、7ヶ月で485点から710点に上げた勉強法

一年間の勉強で、宅建・簿記2級を含む8つの資格に合格する勉強法

国語の授業が嫌いで仕方なかった僕が考える、「本の読み方・本屋の使い方」

2014の短歌まとめ



------------------------

本をたくさん読みます。
映画もたまに見ます。
短歌をやってた時期もあります。
資格を取りまくったこともあります。
英語を勉強してます。













下のバナーをクリックしていただけると、ブログのランキングが上がるっぽいです。気が向いた方、ご協力お願いします。
にほんブログ村 本ブログへ
にほんブログ村

アフィリエイトです

アクセスランキング

[ジャンルランキング]
本・雑誌
13位
アクセスランキングを見る>>

[サブジャンルランキング]
和書
10位
アクセスランキングを見る>>

アフィリエイトです

サイト内検索 作家名・作品名等を入れてみてくださいな

メールフォーム

名前:
メール:
件名:
本文:

月別アーカイブ

Powered By FC2ブログ

今すぐブログを作ろう!

Powered By FC2ブログ

ブロとも申請フォーム

この人とブロともになる

QRコード

QR

カウンター

2013年ベスト

2013年の個人的ベストです。

小説

1位 宮部みゆき「ソロモンの偽証
2位 雛倉さりえ「ジェリー・フィッシュ
3位 山下卓「ノーサイドじゃ終わらない
4位 野崎まど「know
5位 笹本稜平「遺産
6位 島田荘司「写楽 閉じた国の幻
7位 須賀しのぶ「北の舞姫 永遠の曠野 <芙蓉千里>シリーズ」
8位 舞城王太郎「ディスコ探偵水曜日
9位 松家仁之「火山のふもとで
10位 辻村深月「島はぼくらと
11位 彩瀬まる「あのひとは蜘蛛を潰せない
12位 浅田次郎「一路
13位 森博嗣「喜嶋先生の静かな世界
14位 朝井リョウ「世界地図の下書き
15位 花村萬月「ウエストサイドソウル 西方之魂
16位 藤谷治「世界でいちばん美しい
17位 神林長平「言壺
18位 中脇初枝「わたしを見つけて
19位 奥泉光「黄色い水着の謎
20位 福澤徹三「東京難民


新書

1位 森博嗣「「やりがいのある仕事」という幻想
2位 青木薫「宇宙はなぜこのような宇宙なのか 人間原理と宇宙論」 3位 梅原大吾「勝ち続ける意志力
4位 平田オリザ「わかりあえないことから
5位 山田真哉+花輪陽子「手取り10万円台の俺でも安心するマネー話4つください
6位 小阪裕司「「心の時代」にモノを売る方法
7位 渡邉十絲子「今を生きるための現代詩
8位 更科功「化石の分子生物学
9位 坂口恭平「モバイルハウス 三万円で家をつくる
10位 山崎亮「コミュニティデザインの時代


小説・新書以外

1位 門田隆将「死の淵を見た男 吉田昌郎と福島第一原発の五〇〇日
2位 沢木耕太郎「キャパの十字架
3位 高野秀行「謎の独立国家ソマリランド
4位 綾瀬まる「暗い夜、星を数えて 3.11被災鉄道からの脱出
5位 朝日新聞特別報道部「プロメテウスの罠 3巻 4巻 5巻
6位 二村ヒトシ「恋とセックスで幸せになる秘密
7位 芦田宏直「努力する人間になってはいけない 学校と仕事と社会の新人論
8位 チャールズ・C・マン「1491 先コロンブス期アメリカ大陸をめぐる新発見
9位 マーカス・ラトレル「アフガン、たった一人の生還
10位 エイドリアン・べジャン+J・ペタ―・ゼイン「流れとかたち 万物のデザインを決める新たな物理法則
11位 内田樹「下流志向 学ばない子どもたち 働かない若者たち
12位 NHKクローズアップ現代取材班「助けてと言えない 孤立する三十代
13位 梅田望夫「羽生善治と現代 だれにも見えない未来をつくる
14位 湯谷昇羊「「いらっしゃいませ」と言えない国 中国で最も成功した外資・イトーヨーカ堂
15位 国分拓「ヤノマミ
16位 百田尚樹「「黄金のバンタム」を破った男
17位 山田ズーニー「半年で職場の星になる!働くためのコミュニケーション力
18位 大崎善生「赦す人」 19位 橋爪大三郎+大澤真幸「ふしぎなキリスト教
20位 奥野修司「ねじれた絆 赤ちゃん取り違え事件の十七年


コミック

1位 古谷実「ヒミズ
2位 浅野いにお「世界の終わりと夜明け前
3位 浅野いにお「うみべの女の子
4位 久保ミツロウ「モテキ
5位 ニコ・ニコルソン「ナガサレール イエタテール

番外

感想は書いてないのですけど、実はこれがコミックのダントツ1位

水城せとな「チーズは窮鼠の夢を見る」「俎上の鯉は二度跳ねる」

2012年ベスト

2012年の個人的ベストです
小説

1位 横山秀夫「64
2位 百田尚樹「海賊とよばれた男
3位 朝井リョウ「少女は卒業しない
4位 千早茜「森の家
5位 窪美澄「晴天の迷いクジラ
6位 朝井リョウ「もういちど生まれる
7位 小田雅久仁「本にだって雄と雌があります
8位 池井戸潤「下町ロケット
9位 山本弘「詩羽のいる街
10位 須賀しのぶ「芙蓉千里
11位 中脇初枝「きみはいい子
12位 久坂部羊「神の手
13位 金原ひとみ「マザーズ
14位 森博嗣「実験的経験 EXPERIMENTAL EXPERIENCE
15位 宮下奈都「終わらない歌
16位 朝井リョウ「何者
17位 有川浩「空飛ぶ広報室
18位 池井戸潤「ルーズベルト・ゲーム
19位 原田マハ「楽園のカンヴァス
20位 相沢沙呼「ココロ・ファインダ

新書

1位 倉本圭造「21世紀の薩長同盟を結べ
2位 木暮太一「僕たちはいつまでこんな働き方を続けるのか?
3位 瀧本哲史「武器としての交渉思考
4位 坂口恭平「独立国家のつくりかた
5位 古賀史健「20歳の自分に受けさせたい文章講義
6位 新雅史「商店街はなぜ滅びるのか
7位 瀬名秀明「科学の栞 世界とつながる本棚
8位 イケダハヤト「年収150万円で僕らは自由に生きていく
9位 速水健朗「ラーメンと愛国
10位 倉山満「検証 財務省の近現代史

小説以外

1位 朝日新聞特別報道部「プロメテウスの罠」「プロメテウスの罠2
2位 森達也「A」「A3
3位 デヴィッド・フィッシャー「スエズ運河を消せ
4位 國分功一郎「暇と退屈の倫理学
5位 クリストファー・チャブリス+ダニエル・シモンズ「錯覚の科学
6位 卯月妙子「人間仮免中
7位 ジュディ・ダットン「理系の子
8位 笹原瑠似子「おもかげ復元師
9位 古市憲寿「絶望の国の幸福な若者たち
10位 ヨリス・ライエンダイク「こうして世界は誤解する
11位 石井光太「遺体
12位 佐野眞一「あんぽん 孫正義伝
13位 結城浩「数学ガール ガロア理論
14位 雨宮まみ「女子をこじらせて
15位 ミチオ・カク「2100年の科学ライフ
16位 鹿島圭介「警察庁長官を撃った男
17位 白戸圭一「ルポ 資源大陸アフリカ
18位 高瀬毅「ナガサキ―消えたもう一つの「原爆ドーム」
19位 二村ヒトシ「すべてはモテるためである
20位 平川克美「株式会社という病

2011年ベスト

2011年の個人的ベストです
小説
1位 千早茜「からまる
2位 朝井リョウ「星やどりの声
3位 高野和明「ジェノサイド
4位 三浦しをん「舟を編む
5位 百田尚樹「錨を上げよ
6位 今村夏子「こちらあみ子
7位 辻村深月「オーダーメイド殺人クラブ
8位 笹本稜平「天空への回廊
9位 地下沢中也「預言者ピッピ1巻預言者ピッピ2巻」(コミック)
10位 原田マハ「キネマの神様
11位 有川浩「県庁おもてなし課
12位 西加奈子「円卓
13位 宮下奈都「太陽のパスタ 豆のスープ
14位 辻村深月「水底フェスタ
15位 山田深夜「ロンツーは終わらない
16位 小川洋子「人質の朗読会
17位 長澤樹「消失グラデーション
18位 飛鳥井千砂「アシンメトリー
19位 松崎有理「あがり
20位 大沼紀子「てのひらの父

新書
1位 「「科学的思考」のレッスン
2位 「武器としての決断思考
3位 「街場のメディア論
4位 「デフレの正体
5位 「明日のコミュニケーション
6位 「もうダマされないための「科学」講義
7位 「自分探しと楽しさについて
8位 「ゲーテの警告
9位 「メディア・バイアス
10位 「量子力学の哲学

小説以外
1位 「死のテレビ実験
2位 「ピンポンさん
3位 「数学ガール 乱択アルゴリズム
4位 「消された一家
5位 「マネーボール
6位 「バタス 刑務所の掟
7位 「ぐろぐろ
8位 「自閉症裁判
9位 「孤独と不安のレッスン
10位 「月3万円ビジネス
番外 「困ってるひと」(諸事情あって実は感想を書いてないのでランキングからは外したけど、素晴らしい作品)