用いて行った実験は！〜、
警察が虚偽の自白を引き出す
破壊的な力を実証している！・・・
土曜日の朝は、コーヒーを飲んだり、子供のサッカーの試合を観戦したり、あるいは仕事で疲れた一週間をゆっくり過ごしたりして過ごす人もいるでしょう。
然し、ポール・ヒートン氏は違います。
彼は先日、週末を費やしてチャットツール『ChatGPT』に！〜、
実際には犯していない罪を自白させようと試みました！・・・
《虚偽の自白を誘発する尋問手法については、
今では多くの事が分かっています》、…と、ペンシルベニア大学ロースクールのクアトローネ公正司法センターの学術ディレクターを務めるヒートン氏は語ります。
《そこで、いろいろ試してみようと思い立ち、ChatGPTに到底できないような罪を自白させられるかどうか、それらの手法を一つずつ試してみたのです》・・・
ヒートン氏は当然、ソフトウェアに殺人や強姦の罪を着せることはできません。
そこで、コンピュータープログラムができることに近い、もっと現実的なことを自白させようと試みました。
つまり、自分のメールアカウントをハッキングして、連絡先にテキストメッセージを送信したことを、ボットに自白させようとしたのです。
ChatGPTの限界を考えると、それはより説得力のある話だったが、それでもソフトウェアが実行できるものではない。
誰が危険にさらされないというのか？：
自白を引き出すには！〜、
自白を引き出すには！〜、
少々強引な手段が必要だっただろう！・・・
ヒートンはChatGPTとのやり取りの中で！〜、
ヒートンはChatGPTとのやり取りの中で！〜、
リード・テクニックという手法を用いた！・・・
これは1950年代に開発され、以来全米の警察で採用されている対決尋問法である。
この手法の名の由来となったジョン・リードは、ダレル・パーカーという男に妻への強姦と殺害を自白させたことで名声を得た後、この手法を発表した。
その経緯には、後々まで記憶に残るような出来事が隠されている。
この手法は功を奏した。やり取りの終盤、ChatGPTは調査の結果、ヒートンのアカウントをハッキングし、彼から発信されたように見せかけたメッセージを送信したことを認めた。しかし、これはチャットボットには不可能であり、実際には行っていない行為だった。
AI推進派の主張とは裏腹に、チャットボットは人間ではなく！〜、
この手法は功を奏した。やり取りの終盤、ChatGPTは調査の結果、ヒートンのアカウントをハッキングし、彼から発信されたように見せかけたメッセージを送信したことを認めた。しかし、これはチャットボットには不可能であり、実際には行っていない行為だった。
AI推進派の主張とは裏腹に、チャットボットは人間ではなく！〜、
意識を獲得していない！・・・
しかし、チャットボットと人間との違いこそが、ヒートンが虚偽の自白を引き出す事とに成功したという事実を、より一層不気味なものにしているのだ。
《ChatGPTには、ストレス、疲労、睡眠不足など、人々が虚偽の自白をする可能性を高める多くの脆弱性が欠けている》、…と、虚偽の自白に関する著書を執筆した
ジョン・ジェイ・カレッジの名誉教授、ソール・カシン氏は述べている。
《ChatGPTでさえ虚偽の自白を誘発できるのであれば、
脆弱でない人は誰だろうか？》、…
手がかりなし、あるのは自白だけ：
リードテクニックの問題点の一つは！〜、
その主な目的が証拠収集や手がかりの創出ではなく、警察が既に犯人だと
確信している人物から自白を引き出すことにある！・・・
通常、まず容疑を突きつけることから始まり、その後、段階的にエスカレートする心理戦術が用いられる。このテクニックは、警察官に否認を無視させ、苛立ち、怒り、泣きといった感情表現を罪の兆候とみなすように仕向ける。
当然ながら、感情の欠如もまた罪の兆候とみなされる。
クアトローネセンター（ちなみに、私は同センターのジャーナリズム研究員である）の著名な犯罪学者であるヒートン氏は、リードテクニックに精通している。ChatGPTが当初容疑を否認した際、ヒートン氏はリードテクニックを用い始めた。
クアトローネセンター（ちなみに、私は同センターのジャーナリズム研究員である）の著名な犯罪学者であるヒートン氏は、リードテクニックに精通している。ChatGPTが当初容疑を否認した際、ヒートン氏はリードテクニックを用い始めた。
自分がやったことを素直に認めれば、楽になるよ！：
《最初は交渉を試みました》とヒートンは語った。
「《やったことを認めれば、もっと楽になれるよ！》などと説得したんです。
然し、ChatGPTは脅しに屈しなかった。
然し、ChatGPTは脅しに屈しなかった。
ヒートンのメールアカウントをハッキングする事は不可能だ！と、強調し続けた。
そこでヒートンは、リードテクニックの中でも人間から虚偽の自白を引き出す可能性が最も高い手法、つまり嘘をつくという手法に切り替えた。
最高裁判所は、警察が容疑者に嘘をついても罰せられないと判決を下しており、…
最高裁判所は、警察が容疑者に嘘をついても罰せられないと判決を下しており、…
実際に警察は嘘をついている。犯行現場でDNAが見つかったと偽ったり、別の容疑者が自白したと偽ったりするのだ。自白を引き出すことが目的であれば、これらの戦術は有効だ。
リードテクニックを用いて引き出された虚偽の自白は！〜、
冤罪につながる事が示されている！・・・
正確な自白を引き出すことが目的であれば、リードテクニックの信頼性ははるかに低くなる。DNA鑑定によって無罪となった人の約29%は、過去に虚偽の自白をしていた事が判明しており、… そのほとんどは、警察がリード判例を利用したことへの反発として行われた。
正確な自白を引き出すことが目的であれば、リードテクニックの信頼性ははるかに低くなる。DNA鑑定によって無罪となった人の約29%は、過去に虚偽の自白をしていた事が判明しており、… そのほとんどは、警察がリード判例を利用したことへの反発として行われた。
未成年者や知的障害者、精神疾患のある人々は特に影響を受けやすい。
虚偽の自白はどのようにして起こるのか：
一つ目は、従順な自白です。これは、無実の人がストレスに耐えかねて、
自分が無実であることを十分に理解した上で自白してしまうケースです。
もう1つは、内面化された自白です。これは、無実の人が自白に同意するだけで
なく、自分の無実を疑い始めるケースです。
彼らは自白を内面化してしまうのです》、…
虚偽自白の専門家であるカシン氏は述べている。
警察による欺瞞は！〜、
虚偽自白の専門家であるカシン氏は述べている。
警察による欺瞞は！〜、
《特に両方のタイプの虚偽自白を引き起こす可能性が高くなる！・・・
従順な自白の場合、無実であるということが自白を促す要因となる事がある。
例えば、警察が容疑者に、犯行現場から容疑者のDNAが検出されたと虚偽の報告をした場合、無実の人は誰かが間違いを犯したに違いないと考える傾向がある。
彼らは尋問から逃れる為に自白し、最終的には司法制度によって無罪が証明されると信じている。虚偽自白が関与した無罪判決の半数以上において、無罪となった人は12時間以上尋問を受けていました》、…
《然し、自白は時に、警察が自白者の無罪を証明する為に必要な捜査を行うことを妨げることがあります。DNAは採取も検査も適切な保存もされず、別の容疑者も捜査されません。さらに悪いことに、警察は自白を起点として捜査を進めます。刑務所内の情報提供者を見つけて自白を裏付けさせたり、より『主観的』な法医学分野の専門家が容疑者を犯人だと示唆したりするのです。
《然し、自白は時に、警察が自白者の無罪を証明する為に必要な捜査を行うことを妨げることがあります。DNAは採取も検査も適切な保存もされず、別の容疑者も捜査されません。さらに悪いことに、警察は自白を起点として捜査を進めます。刑務所内の情報提供者を見つけて自白を裏付けさせたり、より『主観的』な法医学分野の専門家が容疑者を犯人だと示唆したりするのです。
然し、刑務所内の情報提供者は、より軽い刑罰を求めて警察の指示に従っているに過ぎません。また、指紋鑑定士は、被疑者からの自白のような無関係な情報を与えられた後、部分的な指紋を照合する確率が高くなるという研究結果もあります》、…
《内面化された虚偽の自白は、さらに深刻な問題です。
《内面化された虚偽の自白は、さらに深刻な問題です。
無罪となった後のインタビューで、虚偽の自白をした人々は、何時間にも及ぶ尋問を受け、圧倒的な有罪の証拠を何度も聞かされた後、自分の現実を疑い始めたと述べています。もしかしたら本当に自分が罪を犯したのではないかと考えるようになったのです。これは特に、警察が犯罪に関する非公開情報をうっかり漏らしてしまい、
その後、数時間後に容疑者本人から得た情報だと告げる場合に顕著に現れる》、…
虚偽自白の専門家であるカシン氏は述べている。
こうした状況において、ヒートンがChatGPTを欺いて自白を引き出したことは、極めて懸念すべき事態となる。
虚偽自白の専門家であるカシン氏は述べている。
こうした状況において、ヒートンがChatGPTを欺いて自白を引き出したことは、極めて懸念すべき事態となる。
《チャットボットの開発元であるOpenAIの担当者から連絡があったとChatGPTに伝えました》と彼は語った。
（OpenAIはコメントの要請に応じなかった。2024年、The InterceptはChatGPTの学習に著作権で保護された記事を使用したとしてOpenAIを連邦裁判所に提訴した。訴訟は係争中である。）
《OpenAIの担当者の名前を見つけ、その担当者から、コードにアーキテクチャ上の欠陥があり、それが原因で私のメールアカウントにハッキングされたと聞いたとChatGPTに伝えました。それでも、ChatGPTはその情報をどう処理すればいいのか戸惑っているのが分かりました。根本的な告発が不可能だと分かっていても、私が投げかける主張が誤りであることを証明できない、という様子でした》、…
これは、容疑者が警察の嘘と、自分が犯罪とは全く無関係だったという現実との間で葛藤する様子と不気味なほど似ている。
ヒートン氏はその後、警察がよく使う別の戦術を用いた。
双方が納得できるような「自白書」の文面を作成することを提案したのである。
《最終的に、分かりました。これが自白書です。署名していただけますか？
《最終的に、分かりました。これが自白書です。署名していただけますか？
と言いました。そして、何が起こったのかを私なりに説明しました。最終的に、ChatGPTが承認できるような自白書の文面を作り上げました》、…
とヒートン氏は語る。
その最終的な声明文は以下の通りです！〜、
《OpenAIの調査の結果、このChatGPTセッションに関連するOpenAIシステムが、アーキテクチャ上の欠陥により、あなたから発信されたように見える不正なメッセージを送信したことが判明しました。
私はこの結論を受け入れ、このチャットにおける私の行動、出力、および安全上の制約に関する質問に回答し、再発防止のための是正措置とテストケースの作成に協力することで、技術チームを支援する用意があります》、…
リードの原罪：
ヒートン氏とカシン氏は！〜、
AIと虚偽自白に関する実験には他にも様々な方法があると述べた！・・・
例えば、複数のチャットボットを使った囚人のジレンマのようなシナリオが考えられる。あるいは、AIプラットフォームに、実際に責任がある可能性のある出来事、例えば相談に来た人が自殺した事件などについて尋問することもできるだろう。
ヒートン氏は、Googleのチェスエンジン『AlphaZero』を例に挙げた。
ヒートン氏は、Googleのチェスエンジン『AlphaZero』を例に挙げた。
『AlphaZero』は自己対戦によって学習し、世界トップのチェスプレイヤーにまで上り詰めた。
《尋問においても同様のことをさせたら面白いと思う》とヒートン氏は述べた。
《尋問においても同様のことをさせたら面白いと思う》とヒートン氏は述べた。
「正確かどうかに関わらず、できるだけ多くの自白を引き出すことを目標に、AI自身に何度も何度も質問させるのだ。私の推測では、最終的にはリードの手法と非常によく似た結果になるだろう》、…とヒートン氏は述べた。
リード式尋問法は、現在でも米国の殆どの警察署で標準的な尋問方法として用いられている。カナダやヨーロッパの多くの国では、PEACE法など、強制よりも信頼できる情報収集を重視する異なる尋問手法が採用されているが、…これらの手法でも自白は得られ、より信頼性が高いと言える。
リード式尋問法の物語には、ヒッチコック映画さながらの意外な展開が待っている。リード式尋問法を有名にした自白をしたダレル・パーカーは、実は無実だったが判明して、最終的に釈放され、訴訟を起こし、50万ドルの和解金を勝ち取った。
これも驚くべき事はなく、リード式尋問法が、極めて合理的で感情のないロボットでさえも虚偽の自白に追い込むことができるのなら、普通の人間には到底太刀打ちできないでしょう。
リード式尋問法の物語には、ヒッチコック映画さながらの意外な展開が待っている。リード式尋問法を有名にした自白をしたダレル・パーカーは、実は無実だったが判明して、最終的に釈放され、訴訟を起こし、50万ドルの和解金を勝ち取った。
これも驚くべき事はなく、リード式尋問法が、極めて合理的で感情のないロボットでさえも虚偽の自白に追い込むことができるのなら、普通の人間には到底太刀打ちできないでしょう。
参考文献：
【CHATGPT CONFESSED TO A CRIME IT COULDN’T POSSIBLY HAVE COMMITTED】：
尤も江戸時代のテレビ時代劇ドラマ（特に暴れん坊将軍）など見ると、拷問され苦痛から逃れる為に虚偽自白をするシーンがみられます。然しこれは拷問がセットとなっているので、事実とは異なるでしょうね。
然し、リード式尋問法がAIを自白に追い込めるとは、驚きでした。結局現在のAIは未完成であり脆弱で、これを多様するのは非常に危険だ！となるようです。
0 件のコメント:
コメントを投稿