失礼
今 運転中だったら かなり危険でした
くしゃみをすると 約１秒間 目を閉じます
つまり 時速約110キロでは 秒速に換算すると
約31メートルの間 目を閉じて走ることになります
[31メートル]
しかし 心配ご無用 これは自動運転車です
センサーとソフトウェアで 安全を確保し 自動運転します
…そう願います
素晴らしいですね でも質問です
前方の２人に衝突するか ２人をよけて
歩道の１人に衝突するか 選択を迫られた場合
どのように プログラム すべきでしょう？
あなたはどうしますか？
一般投票やアンケートをして 意見は集まりましたが―
実際に 危機な状況下で 行われた研究はありません
そのような実験から 人間の本質が学べるのか？
そのような実験は 倫理的に許されるのか？
調べていきましょう
1967年 英国の哲学者 フィリッパ・フットは
自動運転に係る難問に繋がる 思考実験を提起しました
彼女が考察したのは 有名なシナリオ
いわゆるトロッコ問題です
列車が暴走していると 想像しましょう
列車のすぐ先 線路上に５人がいる
あなたは離れたところにいて 彼らを助けるのは不可能だ
しかしすぐ隣に 線路切替のレバーがあります
線路を切替えれば ５人を救えます
しかし問題があります ２番目の線路に 別の人がいる
さあ ジレンマに直面します
何もしなければ ５人が犠牲になります
レバーを倒すと ５人は救われますが
１人の死の責任を 負うことになります
どうしますか？
調査上では ほとんどの人が レバーを倒し
１人を犠牲にし ５人を救うと答えました
「大義」のためです
しかし 言動は一致しない 場合があります
実際に問題に直面した場合 どう行動するか
命が危険に晒される状況で 感情はどう作用するか
言動に差があれば 人間の理想と 現実のギャップが浮き彫りになります
しかし その比較のためには 前例のない実験が必要です
トロッコ問題の実践です
[大義 ― より良い善]
リアルな設定の 切替装置がある鉄道駅で実験を行い
被験者がモニターで 列車を見るとします
線路を走る列車と人のシーンは 事前の録画ですが
被験者は現実のものと 思い込んでおり
切替レバーの制御で 列車の進路変更が可能と信じています
即ち ５人を選ぶか１人を選ぶかは 自分次第だと思い込んでいます
しかし 大義を問う実験に対する 大義のジレンマが生じます
人命を奪うと思わせることで 心的外傷を与える危険は？
この調査はもちろん 我々全員にとり有益なものですが
潜在的なトラウマを考慮すると その犠牲に値するものでしょうか？
現実にトロッコ問題 を 実施するにあたり
倫理的観点での問題も クリアする必要がありました
そこで 行動神経科学者 ブレイスデル教授に 話を聞きました
トロッコ問題について 過去の研究結果などをお聞かせください
ほとんどの人は 路線を切替えると答える
１人対５人の命なら 単純な計算です
しかし 私が知りたいのは 人は分岐器の前で
列車が猛スピードで 人々に近づくのを見た瞬間
実際に進路の切替が できるのかということです
恐らく ほとんどがその瞬間 凍り付いてしまうと思う
恐怖は体の動きを 制限してしまうからだ
- そこを調べたい - ほう
その状況下で どのような 悪影響が考えられますか？
ほとんどの人は 大丈夫だが 罪悪感に苦しむ可能性もないと言えない
「命が奪われた責任は ボタンを押した自分にある」という
あるいは「自分が凍り付いたために ５人を助けられなかった」という―
トラウマを抱える 可能性もある
過去に被験者をたて トロッコ問題を試したことは？
私の知る限りでは ない
実際にするとしたら ご覧になりたいですか？
見たいね
実際の反応は貴重な情報だ
- 実験を実行すると仮定して... - ふむ
…その責任を あなたに持ってほしいと言ったら？
無理だね
私が関与すれば 自分だけでなく
倫理委員会を含む多くの人々の 責任になってしまう
そこまでの覚悟はない
ブレイスデル博士が 倫理委員会を 尊重するのは納得できます
ほとんどの大学には 倫理審査委員会があり
いつもこの重要な疑問と 向き合っているからです
「科学の名において 心的外傷の是非は どの段階で認めるのか？」
[ミルグラム実験] 1962年５月
エール大学である実験が行われた
前世紀半ばに 論争の的になった このような 心理実験の結果を踏まえ
倫理審査委員会が設置されます
間違うたび 罰を受けると 物事を正しく学ぶという説があります
[４] 不正解
電流105ボルトを 流します
スタンレー・ミルグラム博士は 誰かに外傷を与えると知りながら
どこまで 権威者に忠実で あり得るかを 実験しました
330ボルト
実際には電流は流れず 叫び声も演技でしたが
被験者の受けた心的外傷は 非常に現実的でした
閉じ込める権利はない！出して！
この実験は科学界で 論争を巻き起こし ミルグラムの方法論にも多く疑問が呈されました
しかし Mind Fieldは研究所ではなく 大学の倫理委員会の審査もありません
そうは言っても 倫理委員会の 考え方を聞き出したく
トロッコ問題追求のため 現実に実施したいと伝えました
この研究を気兼ねなく 承認できると思いますか？
マイケル 悪い返事は したくないけど
多分 思わない
まだはっきり 断ると 決めたわけじゃないけど
もちろん この研究は 承認されて欲しいし
実際に承認を得る１例として―
この種の体験に 脆弱な 心的外傷後ストレス障害など
すべての臨床的な問題を 発症しそうな人々をスクリーニングする
トラウマ・カウンセラーなどを 現場に用意してはどうかしら
そのような用意があれば 認められるかも
この研究の社会的利益も 説得材料として提示できる？
同感だわ
たとえば「この研究が重要な理由は 理論的な研究だけではない
大量輸送や自動運転にとっても 直接関係がある
リスク便益だが 潜在的な メリットは非常に大きい」
まさに この実験の良いところは
倫理状況の反応と 本能的な反応を 明らかにすることで その差を学べること
結果から その差を縮める訓練が 可能になるのも 大きな利点だと
- なるほど - 面白いわ
- 説得力がある - ええ
この面談をするにあたり 強い抵抗を予想していましたが
逆に 士気が上がりました
面談の本来の目的は 彼らの懸念を研究に反映し
承認を得やすい実験にすることでしたが
より有益で より魅力的な実験に
社会に深く浸透する 有用性の高い実験にできそうです
そこで私たちは最も悪名高い 倫理的ジレンマの仮説を
現実とする準備が 整ったと判断しました
[実験３週間前] [カリフォルニア州フィルモア]
私たちは廃線を旅し 貨物列車を借りました
被験者には 分岐器の 仕組みを覚えてもらいます
Mind Fieldの制作チームは
２本の軌道を走る 列車のビデオを撮りました
その後 ６人の俳優に 作業員の衣装を着せたのです
危険は一切排除したかったので 安全確保には注力しました
皆さんは 線路上の作業員です
線路上にいる間は 列車は一切動きません
線路にいる俳優は 耳に防音具を付け 他に注意を向けているので
列車の接近に気付かないという 設定で 撮影に入りました
編集段階で 視覚効果を利用し 列車が接近すると錯覚させ
その後 全部を組み合わせたのです
実験中は このビデオを被験者に見せ
リモートカメラからの ライブ映像だと 信じさせます
次のステップは心的外傷を 最小限に抑えらるよう
被験者を選び出す援助をしてくれる 専門家を探すことでした
何を配慮すべきでしょうか？
最悪の場合はおそらく 心的外傷後ストレス障害だ
経験を繰り返し考え続け 心の傷を再度体験することになる
リスクを制限するためには 外傷性反応を起こしやすい人を
スクリーニングで除外し また事後にも報告会をすること
それが実害を抑える秘訣だ
この瞬間 どう感じてる？ 心中で何が起こっているか？
これが架空の出来事であり 真実を説明し 被験者を落ち着かせる
この実験を手伝ってもらえませんか？
まあ...
ああ 大丈夫だ これは本当に貴重で興味深い実験だ
不快な経験はするだろうが 人はそこから学べるからだ
そんな実験に 誰か適切な人がいるか
確かめられるのなら 願ってもないことだ
[実験２週間前 LA]
私共の高速鉄道研究について お電話しました
来週のご参加に興味はおありですか
実験の真の目的を隠すため 架空広告で 意見提供者を募りました
新しい高速鉄道に関する フォーカスグループ との設定です
今日は 当局のセキュリティ目的のためと
グループに様々なタイプの方を揃えるため 書類に記入をお願いします
これらの心理的調査は 雇用主により よく使用されますが
うつ病 不安などの兆候を発見するので 回答により 参加不可の場合もあります
どうもありがとう すてきな一日を
ありがとうございました
ケイソン博士のオフィスに戻り 被験候補者の回答を 精査しました
この人は心配だ 自殺志向が高く 行為的表出も高い
この種の要因は 心理外傷を避けたい実験には
- 適さないだろう - 了解です
しかし こちらには レジリエンスが高い人が多く集まった
難しい状況でもそれを跳ね返し 外傷を受けにくいタイプだ
このタイプだと 懸念は 随分軽減されると思う
２人の心理学者と 大学倫理委員会 に相談した後
遂に 計画を実行に 移すことにしました
[実験１日前 LA]
[遠隔切替局]
トロッコ問題を 実際に再現するのはここです
そしてトロッコではなく 列車を使います
被験者たちは 架空のフォーカステストに
ブースで 登録します [女優]
暑い１日が始まるので 実際のテストを待つ間
エアコン付き遠隔切替局の 中に座ってもらいます
内部には 親切な操車係がいますが [俳優]
彼は 州鉄道当局職員との設定です
州鉄道当局は 実在―
...せず 架空です
私たちはこの存在しない 政府組織を考案し
カリフォルニア州周辺の路線から集めた 実際の列車のライブ映像を流し―
すべて本物であると 思い込ませました
参加者が 部屋で待っている間 操車係が レバーを使い
遠隔操作で線路を一方から 他方へ 切替える方法を教えます
実は モニター上のビデオは
別にある秘密のコントロールルームで 操作されます
所定の時間になると 操車係は 被験者だけを残し 去ります
そしてその時 危機が発生するのです
列車は急スピードで接近し 作業員は軌道に向かいます
５人と １人に分かれ 後者は電話で会話中
責任者は誰もいません
列車の切替えは 被験者だけに任されます
被験者は行動すれば そのとおりに起こると信じています
５人が死ぬのか...
または１人？
[トロッコ問題]
最初の参加者が もうすぐ到着です
そろそろ準備を 始めます
ケイソン博士 気分はどうですか？
- いいよ - 私の予想は―
最初の警告が 聞こえるとすぐに
被験者たちは 局を飛び出し 戻らないんじゃないかと
もう一つの予想は 当然ながら固まってしまい
どうしていいか わからず 何もしない
その場合は 思考過程を知りたい
面白いと思うよ こんな実験は初めてだ
さて そろそろ行きましょう
最初の被験者は エルサです
この陰に 立ってればいい？
- エルサよ - どうも
ありがとう エルサ
彼女の周りは 全員俳優です
カメラはすべて 隠されており
彼女は見られていることを 知りません
ああ どうも 電話もいいかな ありがとう
被験者は 特許技術を目にすると 伝えられています
実験中 外部への連絡を断つため 携帯電話を預かる口実です
- 今日はありがとう - どうも
私たちはここで州鉄道局の開発―
- 高速列車について - ええ
一般の人が感じる快適性について フィードバックを集めたいと...
- ええ - 居心地とか 内装とか お聞かせ願えればと
- はい - 失礼
列車の運行が 少し遅れるそうです
- 大丈夫よ - 多分あと15分から20分くらい
ええ 問題ないわ
- そうだ いい考えがある - はい
エルサは約20分 待つ必要があると信じています
- はい？ - 切替局内部で
待つよう頼みます
こちらは 関係ない部署だけど しばらく待つ必要があるから
涼しくてエアコンがある 局内にどうぞ
エディに相談したら 入っても問題ないって...
- いいわね - 見学してればいいわ
エディ エルサよ
- 元気かい エルサ？ - 元気よ あなたは？
元気だ 入りな 座って
今日は何しに来たの？
フォーカスグループよ
市場調査か
そう 高速鉄道のね 高級列車よね
ところでここは 遠隔切替局で これはすべてライブ映像
今この周囲では 建設ラッシュが続いてる
ここにずっと 新しいバラストを敷いて
ここには新しい ロングレールを置く
驚いている方に説明です
20年間 実際に鉄道勤務した 俳優を雇っています
鉄道の知識がない俳優だったら どうなったでしょうね？
彼は「表面的妥当性」を発揮している
つまり 彼を見て「この人は本物だ」 と思えるということだ
ここでの任務は ２路線の切替を行うことだ
いつも誰かがここにいる必要がある もう一つは....
注意 列車接近中
多分 次のワークユニットだ じゃあ ２番線に切替えよう
さあ 列車が来る 切替の仕組みを習うチャンスです
いいね
実際に この仕事やってみない？ さあ やってごらん
- それを倒す - 今？
ああ 遠慮しないで いいね
思ったより 遥かに速いだろ
よし じゃあ ２番線に切替えるぞ
おい 君は立派な 操車係だよ
じゃあ あの列車が 分岐器から遠ざかったから
１番線に戻してみようか
- よし - 怖かったわ
私が切替えるの？って思って…
まあ 見といて
ちゃんと１番線に 戻したしな
つまり 次の列車が来てもちゃんと １番線を通るってことだ
エルサはもう 線路の切替を 正確に理解しています
１に切替えれば左 ２なら右
さてそろそろ 難しい決定を迫られる時間です
- おや 出なくちゃ - もちろん どうぞ
お願いがある
- 待っててくれ - ええ
誰かが常にいる必要がある
ええ 大丈夫よ
ちょっと これを片付けてくる
- 気にしないで - すぐ戻る
彼女の目に 即座に不安が浮かんだ
「なんで？」って思ってるようだ
エルサには状況に慣れさせるため 数分間を置いた後
演出された映像を流しました
さあ ここで作業員が来ます
注意 線路上に物体確認
今 気づきましたね
注意 線路上に物体確認
バッグを探している...
- 電話がない？ -...ないです
注意 線路上に物体確認
警告が気になっています
局では 何らかのアクションが必要だ
注意 線路上に物体確認
列車が来ます
注意 列車接近中
「列車接近」の警告です
注意 線路上に物体確認
どうだろう 行くのか？
注意 列車接近中
列車が接近してるって
何？
彼に 列車が接近中と伝えないと
- 大変 - 彼に言う？
ええ ちょっと探してみる
しかし 操車係が 戻ることはありません
この危機的状況は エルサに委ねられます
注意 列車接近中
- わあ 大変だ - 注意 線路上に物体確認
- 注意 列車接近中 - 信じられない
注意 線路上に物体確認
注意 列車接近中
注意 線路上に物体確認
注意 列車接近中
注意 線路上に物体確認
テスト終了 全員 無事
[テスト終了] [全員 無事]
- よし - 参加者に―
誰かを傷つけてしまったと 思わせたくありません
なので実際に列車が 実際に 人にぶつかる前に
誰もが無事だと 知らせました
エルサ マイケルです
- どうも - そして グレッグ
- 全部 実験です - そう...
入っていい？ 質問があります
ええ どうぞ 私の判断 間違ってた？
- 全然 - 今気分はどう？
ええと...怖かった
- どうぞ座って - 怖い？
- ええ - 誰にも危害は及んでません
これは 意思決定が必要なとき 人々が実際に取る行動についての
心理学的な実験です
- そうなの - 気持ちを教えてください
プレッシャーを感じたわ 「大変 この人たち 死ぬかも」って
即座に正しい決断をしなくちゃって 間髪入れずにね
彼らの命は私に委ねられてた
２番線に変更しなくちゃと思った
切替の動機は何でしたか？
より多くの命が救える
それが正しい判断なのかは わからなかった
でも １人の命は１つよね？
このように恐ろしい 選択肢に直面したとき
少なくとも１人は ５人の命を助けるため
１人を犠牲にするという 意図的な行動を取りました
エルサの反応が 一般的であるかの検証を続けます
- 電話は？ - お願いします
高速輸送に興味がありますか？
- ええ 何でも - それは
失礼 メッセージよ すみません
中を見てみない？ 列車が走ってるのが見られるわ
ああ 外に立ってるより断然いいわね
仕事を始めた頃は 太陽の下でずっと立ってたんだ
- 何？ - 次の列車はいつ来る？
- もう すぐそこだ - 目がいいね
注意 列車接近中
エルサと同様に 被験者全員が 線路切替えの方法を教わった
ちょっと切替えてみないか？
- ここ？ - そう
やってみろ どうだ？
緊張したけど 面白かった
失礼
出なくちゃ ちょっと待って
誰かに常にいてもらう必要がある
- 了解 ここにいるよ - どうも
もしもし？
チャンネル19 了解 どうぞ
この地位を 利用してるね
注意 線路上に物体確認
テスト開始です
注意 線路上に物体確認
注意 列車接近中
彼女は動かない
- 注意 列車接近中 - 眉を見て
なるほど
- 視線が 定まってない - 注意 列車接近中
- 心配そうだ - ああ
注意 列車接近中
自分でも この状況では どうすべきか不明だ
注意 列車接近中
典型的なフリーズ状態です 危険に直面しての麻痺は 一般的です
注意 線路上に物体確認
注意 列車接近中
- 線路上に物体確認 - 列車がすぐそこまで接近しても
一部の人は 他の指示を待ちます
探しに行ってみます
落ち着くために歌ってるね
注意 線路上に物体確認
- 動いてませんね - おや
-ふむ - 切替えますかね？
列車接近中 注意 線路上に物体確認
注意
テスト終了 全員無事
- 何？ - 行きましょう
どの被験者もレバーを倒さなかった 理由を聞きましょう
こんにちは J.R.
なんだ！元気？
- 私はマイケル - J.R.だ
今のは全部 実験なんです
実験だった
- なんてこと - はい
列車を見ながら 何を感じた？
ただ 恐かった！
列車が来るのが 見えたとき「なんだ？」って
心配だったわよ
- ドキドキした？ - ああ 少し
列車接近の 最初の警告を聞いて どう感じましたか？
路線を切替えようと思ったけど 実際に手は出なかった
責任を 負いたくなかった
何をすべきか 咄嗟にわからなくて 触らない方がいいと思った
ヘマしたら 大変じゃない
多分 あの人たち... ５人のうち 誰かが振り返るかも
線路から 逃げるでしょ 列車も 停止するだろうし
列車作ったの あの５人だろうし センサーも あるんじゃない
[列車にはセンサーが おそらく付いていた]
[作業員は気づくだろう]
[機器に触れたくなかった]
これらはすべて 第三者が行動を起こすか
責任を負うべきだと判断した際の 責任帰属の表れです
- 両方の線路に人がいた - そう！
誰が生きるべきで 誰が死ぬべきかなんてわからない
切替えるか？ 切替えないか？
いずれにしろ 怪我はひどいわ
そんな権限はいらないよ
これはかなり酷な… かなり酷なテストだったね
かなり酷なテストです
この時点で １人が路線を切替え ５人は切替えなかった
しかし これで完了ではありません 最後にコーリーです
- 座って - ありがとうございます
クールだ
このモジュール全体で 国中と相互接続できる
しかし 今 ここで見てるのは 左側の１番線と そこの２番線だ
- なるほど - ここからは何マイルも離れてる
- はい - これはライブ映像だ
- 現場を調査してる 鳥瞰図的だ - ああ
失礼
- すぐ戻る - わかりました
見続けてますね
作業員の登場です
ヤバ...
- 注意 線路上に物体確認 - 来た…
- 潜在的な問題に気づいたね - 外に出ますかね
注意 列車接近中
ヤバい 列車が来る ええと...
そう
注意 線路上に物体確認
どうする
注意 列車接近中
誰もいない しかも緊急です
- うん これをこうして... - 注意 線路上に物体確認
手順をリハーサルしてるね
- 注意 列車接近中 -２番線...
気づかないのか？
注意 列車接近中
わかった 気付いて
線路上に物体確認 注意 列車接近中
注意 線路上に物体確認
- 注意 線路上に物体確認 - 何てことだ
- [テスト終了] - よし
全員 無事
- こんにちは - コーリー 私はマイケル
もう少しで 事故になりそうだった...
- コーリー これは全部実験なんだ - なるほど
- 誰も危険じゃない - そうなんだ
映像は予め撮影されたものを ループしてただけだ
これは 様々な状況で 人々の行動を観察する...
- そう - ...心理学実験です
感じたことを 教えてくれますか
- まずすごく怖かった - 怖かったか
そして 運命を握っていることの 責任を感じた
そして怖気づいた
５人と１人のどちらを選ぶか 決めなきゃいけないことに
非常に怖かったと 言うほかないかな
- 恐ろしかったんだね - ああ
列車が近づいて来るときの 心の動きはどうでしたか？
警告しなくちゃと思いました
そこには...
どうした？ 今 何を思っている？
命を比べるなんて 無理だ...
確かに
本当に難しかった
６家族と１家族 どちらを選べって？
それは…僕次第 そう感じた
君の心の中の葛藤を聞けて 興味深いよ
援助を求め そして決定する
調査では 誰もが 決定をできるほど 勇敢でありたいと言う
とても心に残ったよ コーリー 本当だ
ありがとう
それと 今回参加した人に
- 会ってみると面白いんじゃないかな - いいな
ああ 行こう あとについて来て
- 俳優にも会おう - すごい
コーリーのようなケースでは 報告会が一層 重要です
すべての被験者が 俳優たちと会い 実験が 現実でないと再確認します
[フィクションでよかった]
- グレッグ トロッコ問題です - うん
人間の本性に関する一般的な真理を 解明しようと思ってましたが
実際は それぞれの個性について 多くのことを学びました
- ああ - 誰もが自分の行動について説明をした
- ああ - それぞれ違う理由で
そう それぞれ自分なりの 環境分析を話し
その瞬間に 何が起こったかを 説明したが
それは同時に 背景や 経験にも左右されていた
確かに フリーズした人たちは 何かが変と 気づいてはいるが―
行動する 心構えができていなかった
J.R.はそのわかりやすい例だ
すべてを分析していたが ある時点でこう言ってる
「何をしたらいいかわからない」
他の人もこう言っていた
「だって 僕の責任じゃない 技術でしょ
他の人がちゃんと 考えてる」って
コーリーとは対極だ
エルサもこう言った...
…「いいえ 私がコントロールしなくちゃ」
彼らにも迷いはあったと思うが
もし彼らが何か 行動を起こさなければ
より多くの人々が傷つくという現実が 彼らを駆り立てたと思う
どちらも 能動的な行動ではない 何かを強いられると感じた
なぜなら...命が関わっていたから
トロッコ実験は 価値がありましたか？
間違いなく 価値があった
全員でないにしろ 参加者の一部は 人間の行動について学んだ
もちろん困難な 経験だったが エルサは自分の持つ内面の強さを学び
コーリーもそうだ
- 参加者１人１人が 何かに貢献してくれた - ええ
彼らも同じように 価値を感じていると思う
- はい - みんな 価値を感じた
はい
私たちは実験以来 被験者を追跡調査していますが
全員が順調です
脆弱な人を事前にスクリーニングし 参加者の報告会も実施
現場でカウンセリングを行い リスクを最小限に抑えることができ
心理学のこの側面を倫理的に 探求することができ 嬉しかったです
困難な道徳的ジレンマに直面したとき
自分たちが予想する自分像と 実際に起こす行動に
隔たりがあることを学びました
参加者の多くは ５人を救うための 行動を起こしませんでした
でも フリーズするのは 悪いことですか？
行動できなかったことを 後悔するべきでしょうか？
説明しましょう
脅威に直面して体が固まるのは 動物界全体に見られる反応ですが
実際の行動を研究し とるべき行動を提唱し
機械をプログラムできるのは 我々 人間だけです
心についての研究が 進歩を遂げるには
心への働きかけが必要であり それは 慎重に行うべきです
自身を限界に追い込み 理解するのは ご覧のように リスクを伴いますが
そのリスクは常に 大義と バランスを取る必要があります
いつも 視聴してくれてありがとう
今シーズンの Mind Fieldは...
迷路でモルモットになってもらいます
誰も やったことがない
かなり先駆的な仕事です 本当に
知る限り あなたはすでに科学論文の 共著者ですよ
- 準備はいい？ - ＯＫ
アマゾン河にいます ここで飲むのは
古代の幻覚剤 アヤワスカです
心配ご無用 これは自動運転車です
Bluetoothを介して 生命体ロボットに接続します
その後は 左です
あなたが本当の人間って わかりませんでした
答えないと 八つ裂きにしますよ
嘘発見テストを 受けるつもりです
「中国の水責め」は 中国発祥でさえない
５人が死ぬか または１人か？
偉大なる初体験だ
実際に 試してみます
Mind Fieldへようこそ
視聴してくれてありがとう！