イーロン・マスクの破壊への食欲

テスラの自動運転ソフトウェアは危険なほど過剰に宣伝されていると主張する訴訟が相次いでいる。 その盲点は、同社の不安定な CEO について何を教えてくれるでしょうか?

クレジット...写真イラスト: Justin Metz

による支援

クリストファー・コックス著

オーディオ ジャーナリズムやストーリーテリングをさらに知りたい場合は、ニュース購読者が利用できる新しい iOS アプリである New York Times Audio をダウンロードしてください。

ニューヨーク タイムズなどの出版物から音声記事をさらに聞くには、iPhone または Android 用の Audm をダウンロードしてください。

初期の頃、このソフトウェアには警察の巡洋艦を攻撃する残念な癖がありました。 その理由は誰も分かりませんでしたが、テスラのエンジニアはいくつかの適切な推測をしていました。静止した物体と点滅するライトが AI をだましているようでした。車はコンピューターが適切に制御して通常通りに走行していましたが、突然右または左に向きを変えて - 衝突しました— わずか 3 年間で少なくとも 10 回。

高株価を維持するために投資家の際限のない楽観主義に依存していた企業（テスラの価値は一時、トヨタ、ホンダ、フォルクスワーゲン、メルセデス、BMW、フォード、ゼネラルモーターズを合わせたものよりも高かった）にとって、今回の暴落は大惨事のように思えるかもしれない。問題。 しかし、テスラのイーロン・マスク最高経営責任者（CEO）にとって、彼らはチャンスを与えた。 衝突のたびにデータが生成され、十分なデータがあれば、同社は世界初の真の自動運転車の開発を加速できる可能性がある。 彼はこのビジョンを非常に強く信じていたため、突飛な予測をするようになった。「誰かが本質的に眠りに落ち、目的地で目覚めるのが安全だと考える時期についての私の推測は、おそらく来年の終わり頃だろう。」マスク氏は2019年にこう語った。「私はそれを確信していると言えます。それは疑問符ではありません。」

テスラの将来は、ドライバーがこのデータ収集実験に参加していることを知っていたかどうか、そして知っていた場合、リスクに対する欲求がマスク氏と一致するかどうかにかかっているかもしれない。 私は、より軽微な事故の被害者たちの話を聞きたかったのですが、彼らは 2 つのカテゴリーに分類される傾向があり、どちらも話す傾向がありませんでした。彼らは、テスラとマスクを愛しており、マスコミに対して否定的なことは何も言いたくないのです。 、あるいは会社を告訴し、弁護士のアドバイスに従って黙秘を続けていた。 （2017年にテスラが高速道路の遮断機に突っ込んだウメール・アリさんは別の言い訳をしていた。「世界一の富豪を怒らせたくないから、私を面接拒否にしてくれ」。）

それからデイブ・キーを見つけました。 2018年5月29日、キーさんの2015年型テスラ モデルSは自動操縦モードで歯科医から家まで車で送っていた。 それは、キーがこれまで何度も通ったルートだった。カリフォルニア州ラグーナビーチの上の丘に上る二車線の高速道路だ。しかし今回の旅では、キーが気を取られている間に、車は車線を逸脱し、後ろに突っ込んでしまった。駐車中の警察のSUVの車を回転させ、SUVを歩道に押し上げた。 けが人はいませんでした。

69 歳の元ソフトウェア起業家であるキーは、自身の事故についてエンジニアの視点で冷静に捉えました。 「静止した物体の問題は――申し訳ありませんが、ばかばかしいようですが――動かないことです」と彼は言う。 テスラの人工知能は何年もの間、動かない物体を背景から分離するのに苦労していました。 Key 氏は、このような一見初歩的な問題をコンピュータが理解できなかったことにイライラするのではなく、クラッシュの背後に理由があること、つまりある種のブラックスワン現象ではなく、既知のソフトウェアの制限であることを知って安心しました。

去年の秋、私はキーさんに一緒に事故現場に行ってほしいと頼んだ。 彼は私にもっと良くしてくれると言いました。 彼はまだベータ版だったテスラの新しい完全自動運転モードを使って私を連れて行ってくれました。 私はキーに、新しい自動運転機能のために追加料金（FSDは現在1万5000ドルかかる）を払っているのに、彼がまだテスラを運転していることに驚いたと話した。 もし私の車が私を殺そうとしたなら、私はブランドを変えていただろう。 しかし、モデル S が売却されてから数か月、数年で、彼はさらに 3 台を購入しました。

私たちは墜落現場から約5マイル離れたラグーナビーチのカフェで朝食をとりました。 キーは黒の V ネック T シャツ、カーキ色のショート パンツ、サンダルを履いており、南カリフォルニアのセミリタイア風のシックな装いでした。 私たちがテーブルに向かうとき、彼は赤い2022年型モデルSのドアをロックし、サイドミラーは撫でられるときの犬の耳のように折りたたまれました。

キーは私たちのインタビューのために起草した4ページのメモを持参しており、事故に関する事実が「テスラの完全自動運転技術（ディスカッション）」などの小見出しの下に整理されて列挙されていた。 彼は、コンピューター、ソフトウェア、運動、お金など、人生の最も重要なテーマについて、完全に形成された意見をまとめて持ち歩き、それらを喜んで共有するような人です。 彼は特に、オートパイロットと FSD が命を救っていることを私が理解していることを懸念していました。11 ポイントの Calibri の箇条書きには、「ベータ版に乗っている間の事故率が他の車よりもはるかに低いことがデータで示されています」と書かれていました。 「確かな統計データに基づくと、FSD ベータ版の速度を落とすと、より多くの事故と人命の損失が発生するでしょう。」

彼のような事故、さらには致命的な事故は不幸だが、自動運転車の普及という大きな目標から社会の目をそらすことはできない、と同氏は主張した。 キー氏は、数十万人の死亡を防いだものの、副反応によるまれな死亡や負傷も引き起こしたコロナウイルスワクチンに例えた。 「社会として、私たちは最も多くの命を救う道を選択します。」と彼は結論づけた。

朝食を終えて車まで歩いた。 Key は FSD の最新バージョンを披露したいと思っていましたが、彼のシステムはまだアップデートされていませんでした。 「イーロンは週末にリリースされるだろうと言いました」と彼は言った。 「まあ、日曜日ですからね。」 マスク氏は、このアップデートが夏にリリースされたFSD 10.13よりも大幅な改善となることを数週間にわたってほのめかしていた。 マスク氏は生前、名前や数字をちょっとしたジョークにするのが好きだったため、このリリースではバージョン番号が 10.69 に跳ね上がりました。 (利用可能な Tesla モデルは S、3、X、Y の 4 つですが、これはおそらく「セクシー」という言葉を意味するからでしょう。)

キー氏はマスク氏について話したくなかったが、マスク氏の評判の低下は無視できなくなっていた。 彼はツイッター乗っ取りを繰り返す奇妙なキャンペーンの真っ最中だったが、テスラ支持者らは落胆した。 そして、彼はまだアンソニー・ファウチを攻撃したり、ナンシー・ペロシの夫に関する陰謀論を広めたり、プラットフォーム上でジャーナリストの出入りを禁止したりしていなかったにもかかわらず、質問はすでにそれ自体を示唆していました：イーロン・マスクをどう説明しますか？

「人間には欠陥がある」とキー氏は慎重に述べた後、マスク氏が自分自身についてよく言った感情を繰り返した。もし双方の党派が彼を憎んでいるなら、彼は正しいことをしているに違いない。 キー氏は、マスク氏がどんなトラブルに巻き込まれても、彼は正直だった、「自分にとって不利益をもたらすほど真実だった」と語った。

運転しながら、キーは FSD と 2015 年型テスラのオートパイロットのバージョンを比較しました。 同氏によれば、オートパイロットは、速度、ステアリング、衝突回避を備えた豪華なクルーズコントロールのようなものだという。 もっとも、彼の場合は「衝突回避には役立たなかったと思う」と述べた。 彼は、FSD が彼が直面したほぼすべての状況に対処できることにはるかに感銘を受けていました。 「私の唯一の本当の不満は、常に私が望む車線を選択するとは限らないことです。」

1分後、車はキーにハンドルに手を置き、道路から目を離さないように警告した。 「今のテスラは、そのことに関しては乳母のようなものだ」と彼は不満を漏らした。 かつてオートパイロットが不注意運転ドライバーに対して危険なほど寛容だったとしても、たとえドライバーがハンドルを握りながら居眠りをしても許されていたとしても、静止物バグのようなその欠陥はすでに修正されていた。 「ステアリングホイールと視線追跡の間では、それは解決された問題にすぎません」とキー氏は語った。

すぐに私たちは墜落現場に近づいた。 私たちの両側には、マウンテンバイクのトレイルが続く低木に覆われた丘がそびえ立っていた。 それが事故当日、キーを窮地に陥れた原因だった。 彼はお気に入りの小道を眺めていて、道路を無視していました。 「私が左を見上げると、車は右に逸れていきました」と彼は語った。 「私は誤った安心感の中にいたのです。」

私たちは、4年前に彼が警察のSUVと衝突した場所に駐車した。 ここの道路には特別なことは何もありませんでした。奇妙な線路も、混乱を招く車線変更も、合流もありませんでした。 駐車した車の列に沿って、ただ一車線の車線が走っているだけです。 なぜその瞬間にテスラが失敗したのかは謎だった。

結局、キーはFSDに私たちをカフェに連れ戻すように言いました。 しかし、左折を開始したとき、ステアリングホイールがけいれんし、ブレーキペダルが震えました。 キーは緊張した様子でつぶやいた、「わかりました…」

さらにしばらくして、車は道路を半分横切って停止した。 車の列が私たちの舷側に迫ってきました。 キーは一瞬躊躇したが、すぐに引き継いでターンを完了した。 「おそらくその後加速する可能性はあったが、そこまで詰める気はなかった」と彼は語った。 もちろん、もし彼が間違っていたら、同じ 1 マイルの道路で AI が原因で 2 回目の事故を起こしていた可能性は十分にありました。

3週間前警察のSUVにキーが衝突したため、マスク氏はスピード違反で所有していたテスラが衝突し、息子バレットさんが亡くなったジム・ライリー氏にメールを書いた。 マスク氏はライリー氏にお悔やみの言葉を送り、悲しみに暮れる父親は、テスラのソフトウェアを更新して、所有者が車の最高速度を設定できるようにできないか、加速、ラジオやトランクへのアクセス、車との距離などの制限も加えられるようにできないか、と手紙で返信した。車は家から運転できる。 マスク氏は同情的ながらも、「設定の数が多ければ、ほとんどの人にとっては複雑すぎて使用できないでしょう。私はこれを確実に正しくしたいと考えています。ほとんどの人々にとって、これが最も良いことです。」と答えた。

これは、マスク氏が最高経営責任者としてなぜ非常に珍しいのかを如実に示したものだった。 まず、彼は自社の製品によって被害を受けた人に直接連絡を取った。たとえ法的理由だけであっても、GM やフォードのトップがこのようなことを考えているとは想像しにくい。 （実際、このメールはライリーがテスラを告訴した後に証拠として残された。）そしてマスクはライリーを拒否した。 「検討してみます」または「何ができるか考えてみます」という漠然としたものはありません。 ライリーは厳しいノーを突きつける。

キーと同じように、私もマスクが自分に関するあらゆる話を作りたがる傾向に抵抗したいと思っています。 テスラは数千人の従業員を抱える大手自動車会社です。 イーロン・マスク以前から存在していました。 イーロン・マスクの後にも存在するかもしれない。 しかし、訴訟、株価の暴落、依然として壊滅的な失敗をする可能性が十分にあるAIなど、同社が直面している課題について倹約的な説明が必要な場合は、気まぐれで優秀な2年生の最高経営責任者に目を向けるべきだ。 。

おそらくここに謎はありません。マスクは単なるナルシストであり、彼のあらゆる無謀な方向転換は、単に世界の注目を集めるためだけのものです。 最近の証言録取で、弁護士が「あなたにはナルシシストな反社会的人間を見分ける何らかの独特の能力があるのですか？」と尋ねたとき、彼は冗談めかしてこの理論を支持したようだった。 すると彼は「鏡を見るということですか？」と答えました。

しかし、自己執着や衝動制御の下手さのように見えるものは、むしろ、マスク氏が何度も詳しく説明してきた一貫した哲学の成果である可能性がある。 ライリーへのメールには、「最大多数の人々にとって最大の善」ということが書かれています。 この格言は、功利主義的倫理のその場限りのシステムの一部として、マスク氏が下したあらゆる種類の不可解な決定、特に長期的には無数の命を救うと彼が信じているAIの猛烈な追求を説明することができる。

マスク氏にとって残念なことに、短期的なことが優先され、彼の会社は数か月間厳しい状況に直面している。 2月には、オートパイロットが関与した衝突事故でテスラを相手取った最初の訴訟が審理される。 さらに4人が立て続けに続きます。 そのうち最大3件の訴訟で原告の代理人を務めるドナルド・スラビック氏は、普通の自動車会社なら今頃和解しているであろう、と語る。「彼らはこれを事業コストとみなしている」。 マスク氏は、たとえこれがテスラにどのような危険をもたらすとしても、法廷で戦い抜くと誓った。 「特に懲罰的損害賠償が見つかった場合、その金額はかさむ可能性がある」とスラビック氏は語った。

スラビック氏は、テスラに対して提出した苦情の 1 つを私に送ってくれました。そこには、オートパイロットの顕著なクラッシュが A から Z まで、実際には A から WW までリストされています。 中国ではテスラ車が道路清掃車の後部に衝突した。 フロリダ州では、テスラ車が高速道路の2車線にまたがるトラクター・トレーラーに衝突した。 インディアナ州で豪雨が発生した際、テスラ モデル 3 がハイドロプレーニングして道路から外れ、炎上した。 フロリダキーズではモデルSが交差点を暴走し、歩行者を死亡させた。 ニューヨークでは、ロングアイランド高速道路の路肩でタイヤ交換をしていた男性をモデルYが衝突した。 モンタナ州では、テスラ車が予期せずハンドルを切って高速道路の柵に突っ込んだ。 その後、ダラス、マウンテンビュー、サンノゼでも同じことが起こりました。

自動運転車の登場は、このようなことを意図したものではありませんでした。 毎日毎日、私たちは車の中で恐怖を感じ、傷つけ、自殺します。 米国では昨年、約1,100万件の交通事故が発生し、500万人近くが負傷し、4万人以上が死亡した。 テスラの AI は、この血祭りに終止符を打つことを目的としていました。 その代わり、米国では平均して毎日少なくとも 1 件のオートパイロット関連の事故が発生しており、テスラは米国道路交通安全局の調査を受けています。

2015年10月にオートパイロットがリリースされて以来、マスク氏はドライバーにオートパイロットを以前よりも先進的であると考えるよう奨励し、2016年1月にはオートパイロットは人間のドライバーよりも「おそらく優れている」と述べた。 同年11月、同社はベイエリアの道路を走行するテスラ車のビデオを公開し、「運転席に座っている人は法的な理由からそこにいるだけだ。彼は何もしていない。車は勝手に運転している」という免責事項を付け加えた。 マスク氏はまた、「副操縦士」という名前を拒否し、「オートパイロット」を支持した。

この技術が運転支援のみを目的としていることが細かい文字で明らかになったが、そのメッセージはマスク氏の発表に比べて注目を集めなかった。 多くのドライバーがオートパイロットの機能について本当に混乱しているようでした。 （テスラはまた、2016年のビデオに映った車が同社の駐車場で衝突したことについても明らかにすることを拒否した。）スラヴィク氏の法的訴状は、「テスラの行為は卑劣であり、一般人から見下され、軽蔑されるほど卑劣なものだった」と述べている。まともな人たちよ。」

係争中の訴訟の多くの主張は、テスラが一貫して消費者の期待を膨らませ、それに伴う危険性を軽視してきたという 1 つのテーマに帰着します。 マスク氏は、自動車には人間の監視が必要であるとドライバーに思われたくなかったため、自動車には十分なドライバー監視機能が備わっていなかった。 （マスク氏、2019年4月：「システムの信頼性が人間レベル以下であれば、ドライバーの監視は理にかなっている。しかし、システムが人間よりも劇的に優れていて信頼性が高い場合、監視はあまり役に立たない。」）自動ブレーキや「命令されていない車線変更」の問題についてドライバーは警告を受けなかった。 同社はユーザーマニュアルでこの技術の限界を認めながらも、テスラが人間の介入なしで複雑なルートを運転するビデオを公開し、拡散するだろう。

マスク氏の理想的な顧客は、キーのような人でした。何か問題が起こったときは喜んで責任を受け入れますが、次のアップデートにはほぼ無限の信頼を寄せています。 テスラのエンジニアは宣誓証言の中で、このことをほぼ明白に述べた：「第一に、お客様には自分の車に自信を持っていただきたいということをお伝えしたいのです。すべてが正常に動作しています。そして第二に、その理由あなたの事故や事件の原因は常にあなたに帰するからです。」

ラグーナビーチで左折に失敗した後、キーはすぐに問題を診断してくれました。 システムが FSD 10.69 にアップグレードされていれば、車は確実に安全にターンをこなしていただろうと彼は主張した。 マスク氏にとって残念なことに、すべてのテスラ所有者がデイブ・キーのようなわけではない。 オートパイロット訴訟の原告らはAIが進歩していることに同意するかもしれないが、それは早期導入者や、途中で殺される可能性のある傍観者の背中を押しているだけだ。

オンラインでは戦いがあるオートパイロットとFSDをめぐるマスク支持派と反マスク派の間 Redditにはr/RealTeslaと呼ばれるフォーラムがあり、最も恥ずかしいAIの失敗と、より一般的な苦情が紹介されている：きしむステアリングホイール、雨漏りする屋根、壊れた電子機器、騒々しい車内、硬いサスペンション、しわの寄った革シート、壊れたドアハンドル。 マスク派はr/TeslaMotorsに隔離される傾向があり、そこでテスラの目撃情報を投稿し、同社の最新の工場開設を応援し、上司からの次の重大な発表を待っている。

YouTube で David Alford を見つけました。そこで、彼は「赤信号を走行する Tesla Full Self-Driving」というビデオを投稿しました。 その中で、アルフォードの車が専用信号機のある左折レーンのある交差点に近づくときの景色がフロントガラス越しに見えます。 残り数百ヤードで信号が緑から赤に変わるが、車は止まらない。 その代わりに、交差点に進入し、アルフォードが引き継ぐまで、対向車と衝突する予定だった。

コメントの中で、テスラファンはビデオを投稿したアルフォード氏に怒りを募らせているが、アルフォード氏は「欠点を投稿するのが怖いなら、テスラにシステムを改善するよう圧力をかけることがどうして役に立つのか？」と反論した。 あるコメントへの返信として、彼はFSDは「彼らが使用している文脈において非倫理的」であると書いている。

Alford に電話したとき、r/RealTesla に適した人を期待していましたが、結局のところ、彼は r/TeslaMotors のような雰囲気を持っていました。 彼は私をビデオの現場に連れて行き、失敗を実演しても構わないと言いましたが、その前に約束しなければなりませんでした。 「私が唯一お願いしたいのは、テスラに対して悪い印象を持たれないようにしてほしいということだ」と彼は語った。 「私は会社のことなどを嫌いだと誰にも思われたくないんです。なぜなら私は彼らのとてもとても熱心なサポーターだからです。」

アルフォードはカリフォルニア州フレズノに住んでいます。昨年の秋のある日、私が彼に会いに行く前に、彼はいくつかの興味深いニュースを教えてくれました。彼はちょうど FSD 10.69 アップデートを受け取ったところだったということです。 私たちのドライブは、新しいシステムを使用して YouTube ビデオから交差点をナビゲートするという彼にとって初めての試みとなります。

私が彼に会った朝、彼はタトゥーが目立つ黒いTシャツ、黒いサングラス、膝に穴の開いた色あせた黒のジーンズを着ていました。 ハリウッドなら彼をホワイトハットハッカーとして型にはめるだろうが、実際にはキーのようなソフトウェア担当者だ。彼はベイエリアのハイテク企業のプロダクトエンジニアだ。

彼の白い 2020 Tesla Model 3 には、Etsy で見つけた磁気バンパー ステッカーが貼られていました。完全自動運転テスト中ですのでご注意ください。 彼は、90パーセントの時間はFSDモードで運転しているため、彼の車はいつも少し奇妙な動作をしていると語った。ステッカーのおかげで他の車からのクラクションをある程度防ぐことができたという。 彼は、Key と同様、理想的な FSD ベータ テスターであるように見えました。ソフトウェアに興味があり、その欠陥に警戒し、自律走行マイルの蓄積に固執していました。

私が助手席に乗り込むと、アルフォードが最初の目的地、フレズノのダウンタウンの数ブロック離れた場所を言いました。 曇っていたのが幸運だった、なぜならこのような状況でも車はうまく動いてくれたからだと彼は言った。 晴れていて眩しさが強い日には、車が「不機嫌」になることがあります。 そして、霧がかかると、フレズノでは霧がかかることがよくありましたが、「異常事態になりました」。

数分後、私たちが横断歩道にさしかかると、ちょうど子供をワゴンに乗せた二人の親が横断し始めた。 ハンドルの横にあるスクリーンには、AIが2人の歩行者を登録したが、ワゴン車は登録していないことが示された。 アルフォードさんは、ブレーキの上に足をかざしていたが、車は自然に停止したと語った。

ワゴンの後に車椅子に乗った女性がやって来た。 車はそのままでした。 アルフォードさんは、車やトラックに乗っていない路上にいる人を指す自動車用語は「VRU」、つまり交通弱者を指すと語った。 そしてそれは真実です。歩行者や自転車、ベビーカーに乗った子供たち、車椅子に乗った女性は、私たちが街や高速道路に詰め込んだ巨大な機械に比べれば、とても壊れやすいのです。 一歩間違えば車に轢かれてしまうだろう。

私たちはダウンタウンを貫くヴァン・ネス・アベニューに入りました。 新しく舗装されており、道路には線路の代わりに、線路が最終的にどこへ行くのかを示す小さな黄色いタブがあった。 テスラはこれを嫌がり、心配そうに右に左に避けながら、何か固定するものを探した。 周囲に他に車がいなかったため、アルフォードはそれをシステムから解放し、最終的には従うべき車線を見つけました。

「リスクを許容する力が身につくのです」と彼は言う。 「はい、あちこちで方向を変えていますが、何かに衝突するわけではないことはわかっています。」 それでも、ベータ版の経験により、彼自身の仕事への取り組み方は変わりました。 「実際、ソフトウェア開発者として、たとえ危険ではないとしても、完全に準備が整う前に自分のソフトウェアを人々の手に渡すことにさらに躊躇するようになった」と同氏は語った。

数秒後、2台のVRU（犬の散歩をしている男性）が横断歩道に進入し、私たちが交差点を通過した。 彼らは安全な距離にありましたが、犬は私たちの方向にリードに力を入れ始めました。 アルフォードと私は、リードで止められるのでペットが危険にさらされていないことを知っていました。 しかし、テスラが見たのは、犬が私たちの前に飛び降りようとしていて、突然止まったことだけでした。 すべてを考慮すると、いかなる生命体にも怪我はなく、良い結果でしたが、シームレスな自動運転体験とは程遠いものでした。

アルフォードは、車が彼に注意するよう警告しなかった程度の頻度でステアリングホイールを軽く突いた。 彼はドライバーの厳しい監視を気にしませんでした。車の挙動を研究することに飽きることはなかったので、車の運転をやめようという誘惑に駆られることはありませんでした。 それでも、彼はシステムを悪用する人々を知っていました。 あるドライバーは、長距離ドライブ中に「キックバックして何でもできる」ようにハンドルにアンクルウェイトを結び付けました。 同氏は、「テスラに乗っている人でFSDベータ版を持っている人を何人か知っている。彼らはウーバーを呼ぶ代わりに、飲酒運転のためにそれを持っている」と語った。

私たちはダウンタウンを出て高速道路に乗り、街の北東にあるクローヴィスと呼ばれる地域に向かいました。そこには難しい交差点がありました。 Alford は FSD 設定を呼び出しました。 彼のデフォルトのドライバーモードは「Average」だったが、他の 2 つのオプション、「Chill」と「Assertive」はそれほど変わらないことがわかったと彼は言い、「車はとにかく本当にアグレッシブだ」と語った。 しかし、高速道路を運転する場合、彼は車をマッドマックスモードと呼ばれるものに設定していました。これは、彼の好みの速度よりも時速数マイルでも遅い場合、彼の前の車を追い越すことを意味します。

私たちは高速道路を出ると、すぐに車の集まりに到着しました。 信号機に何らかの異常が発生し、赤点滅したため、8 車線にわたる四方向のドライバーは、いつ進むべきか、いつ道を譲るべきかを判断する必要がありました。 ここでの振り付けは繊細でした。慈悲、混乱、便宜を考慮せずに織り交ぜるには車が多すぎました。 人間の中には、誰かが譲歩するかどうかを確認するために、他人に手を振ったり、アイコンタクトを試みたりする人がかなりいた。

私たちは順番が来るまで、車ごとに交差点に向かって急いで向かいました。 ニュアンスを期待していたのですが、そんなことはありませんでした。 私たちが完全に停止すると、テスラは急速に加速し、私たちの横を横切る一台の車を遮断し、別の車の周りを向きを変えました。 それは非人間的というよりも、クズだと決めつけられた人間の行動だった。 「あれは最悪だった」とアルフォードさんは語った。 「通常なら、そのような間違いを犯した場合、私は関与を解除します。」 彼はボタンをクリックして、事件のスナップショットをテスラに送信しました。

その後、四方停止で車が慎重になりすぎた。 待ち時間が長すぎたので、交差点にいた他の2台の車は私たちより先に走り去ってしまいました。 私たちは、安全運転に関する古い格言「親切にするな、予測可能であれ」について話し合いました。 コンピューターとしては、テスラの AI は驚くほど不安定でした。 「それは良くないし、予測可能でもない」とアルフォード氏は語った。

道路を数マイル進むと、ビデオに登場した交差点に到着しました。州道 168 号線からイースト シェパード アベニューに左折したところです。信号は、市内の最新開発が終わり、空き地が始まる地点にあります。 真っ直ぐに車を走らせれば、すぐにシエラネバダに向かう途中でセージブサに囲まれていることに気づくでしょう。

アルフォードが発見した間違いを再現するには、赤の左折矢印と青信号で交差点に近づき、直進する必要がありました。 最初のパスでは、最後の 1 秒で矢印が緑色に変わりました。 しかし、2 回目の通過では、空いている道路で、タイミングは適切でした。私たちの番には赤、他の人には青でした。

私たちが近づくにつれて、車は右折車線に入り、速度を落とし始めました。 「赤が見えるよ」と私は言った。

「いいえ」アルフォードは言った。 「ここではいつも少し速度を落としてから走り抜けます。」 しかし今回は、速度が低下し続けました。 アルフォードには信じられなかった。 「まだ明かりは灯るだろう」と彼は言った。 しかし、彼は間違っていました。私たちはラインのすぐ手前できちんと停止しました。 アルフォードはショックを受けた。 「彼らはそれを直したんだ！」 彼は言った。 「それは私が2年間彼らに問題を与えてきたことです。」 私たちは信号が青になるまで辛抱強く待ち、テスラはスムーズにシェパード・アベニューに乗り出しました。 問題ない。

それは期待通りマスク氏の仮説を明確に実証したものだった。 Alford のような専用ドライバーによって十分なデータが収集された後、ニューラル ネットがそれを理解するまで、AI を悩ませ続ける状況がありました。 このリスクと報酬の変換を X 回繰り返せば、おそらくテスラは自動運転を解決するでしょう。 もしかしたら来年もあるかも知れません。

フレズノの中心部に戻る車の中で、アルフォードは元気いっぱいで、自分がテスラの世界をより良い方向に変えた可能性に喜んでいた。 私は彼に、FSD 10.69 リリースがそれ以前の誇大宣伝に応えたかどうかを尋ねました。 「正直に言うと、そうですね、そう思います」と彼は言った。 (彼は 12 月にリリースされた FSD のバージョンについてはさらに熱心で、ほぼ完璧だと述べていました。)

数分後、私たちは町の荒廃した地域に到着しました。 アルフォード氏は、一般的にテスラのAIは高所得地域でより優れたパフォーマンスを発揮するが、それはおそらくその地域にはテスラ所有者が多いためだと述べた。 「高所得地域にテスラがあるため、データに偏りがあるのでしょうか？」 彼は不思議に思いました。

私たちは交差点に近づき、左折しようとしましたが、これはラグーナビーチのシナリオの繰り返しであることが判明しました。 テスラは、左側から来る車をもっとはっきりと見ようとして、忍び寄り始めました。 それは少しずつ前進し、再び車線に完全に入るまで前進しました。 テスラが加速して旋回を完了するのを止めるものは何もなく、ただそこに座っていました。 同時に、騙されたホンダ・アコードが運転席ドアに衝突するまであと約3秒というところで猛スピードで私たちに向かって走ってきた。 アルフォードがすぐに交代してアクセルを踏み込み、我々は無事に脱出した。 今度は彼は何も言わなかった。

そこから家に帰るのは大変でした。 信号での通常の左折時に、システムがびっくりして右折しようとした。 アルフォードが引き継がなければならなかった。 そして、高速道路へのクローバーの葉の入口ランプに近づくと、車は加速し始めました。 ランプに留まるには、弧を描きながら右折する必要がありました。 私たちの前には、ガードレールのない建設現場への急な下り坂がありました。 車は曲がる気配がなかった。 私たちは白の実線を越え、あと数ミリ秒で道路から飛び出すところだった。そのとき、ついに車輪が右に大きく揺れ、再び道路に抱きついた。 今回はFSDが自ら修復してくれましたが、もしそうでなかったら墜落で私たちは確実に命を落としていたでしょう。

ピーター・ティール、マスク氏の元人物 PayPal のビジネス パートナーはかつて、もし自分が本を書くとしたら、マスクに関する章は「リスクについて何も知らなかった男」というタイトルになるだろうと語った。 しかし、それはマスク氏の態度の誤解だ。彼の発言を解析すると、彼は将来の利益を合理的に想定して、現在の驚くべき量のリスクを単に引き受けているだけの人であることがわかる。

マスク氏が自らの哲学を最も明確に表現したのは、もちろんツイッター上だ。 「私たちは国民の幸福度を最大化する一連の行動をとるべきです！」 彼はあるユーザーに地球を救う方法を尋ねる手紙を書きました。 8月、彼はスコットランドの功利倫理学者ウィリアム・マカスキルの著作が「私の哲学に非常に一致している」と述べた。 （特に、マカスキルはサム・バンクマン＝フリードの知的なミューズでもあったが、FTXスキャンダルが明るみに出た後、彼は彼との関係を断った。）

マスク氏のリスクの受け入れは真の進歩をもたらした。スペースXは再利用可能なロケットを海洋の遠隔操作の着陸パッドに着陸させることができる。 Starlink は前線で働くウクライナ人にインターネット サービスを提供しています。 OpenAI はチューリング テストの合格にますます近づいています。 テスラに関して言えば、マスク氏の最も厳しい批評家たちでさえ――そして私はこの記事の取材中に彼らの多くと話した――でさえ、米国や世界中で今や堅調な電気自動車市場を生み出した功績をマスク氏に認めようと、無断で立ち止まるだろう。

それでも、ロバート・ローウェルが書いたように、「人間ほど道を誤るロケットはない」。 ここ数カ月間、ツイッターなどでの怒りが増幅し始めたため、マスク氏はキャリアを通じて築き上げてきた善意の多くを無駄にする決意を固めたようだ。 私は原告側弁護士のスラビック氏に、マスク氏に対する最近の国民感情の変化で法廷での仕事が少しでも楽になったかどうかを尋ねた。 「少なくとも現時点で彼の判断に懐疑的な人は以前よりも多くなっていると思う」と同氏は語った。 「もし私が反対側だったら、心配するでしょう。」

しかし、マスク氏の最も疑わしい決定のいくつかは、率直な功利主義的な計算の結果として見れば意味をなし始める。 ロイター通信は先月、マスク氏の医療機器会社ニューラリンクが、急ぎの実験によって数十頭の実験動物の不必要な死を引き起こしたと報じた。 マスク氏の内部メッセージでは、緊急性がトップからのものであることが明らかになった。 「我々は単に十分なスピードで進んでいないだけだ」と彼は書いた。 「それは私を狂わせます！」 費用対効果の分析は彼にとって明白に思えたに違いありません。ニューラリンクには麻痺を治療する可能性があり、それによって何百万もの未来の人類の生活が改善されると彼は信じていました。 少数の動物を苦しめる価値はあった。

将来世代の巨大さによって倫理的重みが増すという、この形の粗野な長期主義は、ツイッター買収に関するマスク氏の発言にも現れている。 同氏はツイッターを「デジタルタウンスクエア」と呼んでおり、それは新たなアメリカ内戦を防ぐことに他ならない。 「もっとお金を稼ぐためにやったわけではない」と彼は書いている。 「私が愛する人類を助けるためにやったのです。」

オートパイロットと FSD は、このアプローチの集大成です。 「テスラエンジニアリングの最も重要な目標は、ユーザー幸福度曲線の下の面積を最大化することだ」とマスク氏は書いた。 Twitter や Neuralink とは異なり、彼の決断の結果として人々が亡くなっていましたが、それは問題ではありませんでした。 2019年、アクティビスト投資家でテスラの堅実な批評家であるアーロン・グリーンスパンとの辛辣な電子メールのやりとりの中で、マスク氏はオートパイロットが救命技術以外のものであるという示唆に激怒した。 「データは、オートパイロットが人間の運転よりも大幅に安全であることは明白です」と彼は書いた。 「あなたがそうでないと主張するのは非倫理的であり、虚偽です。そうすることで、あなたは公衆を危険にさらしているのです。」

聞きたかったマスク氏はリスク哲学について詳しく説明するよう求めたが、私のインタビュー要請には応じなかった。 そこで私は代わりに、著名な功利主義哲学者であるピーター・シンガーに、関連する倫理的問題のいくつかを整理するために話を聞いた。 自動運転車の開発と導入を遅らせるものは本質的に非倫理的だというマスク氏の主張は正しかったのだろうか？

シンガー氏は、「事実について彼が正しければ、彼の言うことは一理あると思う」と述べた。

マスク氏がオートパイロットやFSDについて語る際、それが人間のドライバーよりもいかに優れているかについて言及することはほとんどない。 8月の株主総会で同氏は、テスラは「AIの非常に重要な部分を解決しており、人間よりも一桁安全に運転することで、最終的には数百万人の命を救い、数千万人の重傷を防ぐことができる」と述べた。 」 マスク氏はこれを裏付けるデータを持っている。2018年からテスラは四半期ごとの安全性レポートを一般公開しており、オートパイロットを使用することの一貫した利点が示されている。 2022年後半の最新の報告では、オートパイロットを作動させたテスラは、普通の車に比べて衝突する可能性が10分の1であると述べられている。

それがテスラがこの春、国民と陪審員に対して主張しなければならない主張だ。 同社の安全報告書の言葉によれば、「すべての事故を防ぐことはできる車はありませんが、当社は事故が発生する可能性を大幅に減らすよう日々取り組んでいます。」 オートパイロットは何度もクラッシュを引き起こす可能性がありますが、そのテクノロジーがなければ、私たちは最悪の状況に陥っていたでしょう。

シンガー氏は、たとえオートパイロットと人間のドライバーが同等に致命的だったとしても、衝突報告やニアミスのデータに基づいた次のソフトウェアアップデートでシステムがさらに安全になるのであれば、AIを優先すべきだと語った。 「それは外科医が実験的な手術を行うのと少し似ています」と彼は言う。 「おそらく、手術を行う最初の数回は患者を失うことになるだろうが、長期的にはより多くの患者を救うことができるという主張だ。」 しかし、外科医が患者からインフォームドコンセントを得ることは重要であるとシンガー氏は付け加えた。

テスラはドライバーにインフォームドコンセントを得ていますか? 答えは車の所有者によって異なるかもしれません。デイブ・キーにとっても、おそらく 2018 年の答えと 2022 年の答えは異なるでしょう。しかし、ほとんどの顧客はオートパイロットがいかに欠陥があるか気づいていないと、『安全は安全であるか』の著者フィリップ・コープマン氏は述べています。十分ですか? 自動運転車の安全性の測定と予測。」 車は「本当にクレイジーで、クレイジーで、驚くべきミス」を繰り返していると彼は語った。 「未熟な技術のテストドライバーとして訓練を受けていない民間人を使用するというテスラの行為は、本当にひどいものだ。」

コープマン氏はマスク氏が想定している事実にも反対している。 同社が四半期安全性報告書で発表するデータの明らかな問題の1つは、主にアクセス制限のある高速道路で走行したオートパイロットの走行距離を、すべての車両の走行距離と直接比較していることだ。 「安全な距離ではオートパイロットを使用しています」とコープマン氏は言う。 「ですから、もちろん見た目は素晴らしく見えます。そして、ハードマイルではオートパイロットを使用していないものと比較することになります。」

2022 年の第 3 四半期にテスラは、オートパイロットを使用して運転した場合、626 万マイルごとに 1 件の衝突事故が発生したと主張しました。実際、これは 652,000 マイルごとに 1 件の衝突事故という米国の基準よりもほぼ 10 倍良好です。 しかし、衝突事故は高速道路よりも一般道で発生する可能性がはるかに高く、ペンシルバニア州運輸省のある調査によると、地方道路ではターンパイクよりも衝突事故が 5 倍発生しやすいことが示されています。 オートパイロットの数値と高速道路の数値を比較すると、テスラの優位性は大幅に低下します。

車の年齢とドライバーの年齢をコントロールしようとすると、テスラの安全性に関する主張はさらに不安定に見えます。 テスラ所有者のほとんどは中年以上であり、そのため、危険なドライバーの 1 つである 10 代の若者が排除されています。 そして、新しい車を持っているだけで、事故の可能性が大幅に減少します。 カリフォルニアのテスラ台数は、一般に穏やかで乾燥した気候に恵まれているため、数字が有利に歪められた可能性さえある。 これらのバイアスの一部を修正しようとした独立した研究では、オートパイロットがオンのときとオフのときと同じくらい頻繁にテスラがクラッシュすることが示唆されました。

「それは功利主義者にとって常に問題だった」とシンガーは私に語った。 「厳格な道徳的規則がないため、人々は自分たちの目的に合った方法で合計を実行しても問題ないと考えるかもしれません。」

功利主義的な考え方により、個人は息を呑むような美徳を行う行為を行うようになりましたが、この倫理的枠組みを産業家の手に委ねると、ある種の危険が生じます。 真の功利主義には、現在と将来におけるすべての害と利益の慎重なバランスが必要であり、この評価を行う忍耐力と、前進によって引き起こされる苦しみと死の量が明らかでない場合は行動を控える忍耐力が必要です。 マスク氏は功利主義をより限定的な方法で利用しており、何かが純利益をもたらすと確信している限り、今すぐそれを行うことは許可されていると主張している。

過去20年間、マスク氏はどういうわけか自分を巧みに操って複数の会社を経営し、そこで人類の未来を守るために働いているともっともらしく主張してきた。 SpaceX は単に衛星を低軌道に運ぶだけではありません。 それは私たちを火星に送ることにもなります。 テスラは単に堅実な電気自動車を作ることはできません。 それは自動運転の問題を解決するでしょう。 Twitter は、私たちが集まって議論するための単なる場所ではありません。 それは文明を支えている小道具の一つです。 リスクを適切に高めると、あらゆる種類の疑わしい行動が、ほとんど合理的であるように見え始めます。

小説家のジャネット・ウィンターソンは、「真の信者は、自分たちの信仰の覆いを剥がすよりも、むしろ政府が倒れて歴史が書き換えられるのを見たいと思う」と書いた。 マスク氏は、自分のアプローチが正しいという信念に揺るぎはないようだ。 しかし、どれだけ緊急性があるにもかかわらず、彼は AI 競争に負ける可能性があります。

現在、サンフランシスコとテキサス州オースティンで、まもなく世界中の都市で、クルーズまたはウェイモが運行するロボタクシーを利用できるようになります。 「私たちがフィクションから現実に移る瞬間があるとすれば、それは今だ」とグーグルの自動運転車チームを設立したセバスチャン・スラン氏は私に語った。 （「ところで、私は昨年このことを言いませんでした」と彼は付け加えた。）スラン氏は、本物のテスラの潜伏者ではなかった。 彼は5台目のテスラに乗っていて、「テスラが持っているものは本当に美しい。彼らは現場で多数の車両を持っている」と同社を賞賛したと述べた。 しかし現時点では、テスラの競合他社はFSDを搭載したどの車両よりも完全自動運転の実現に近づいている。

ここ数カ月、マスク氏は自動運転テスラがもうすぐそこまで来ているという約束をやめた。 「自動運転の問題は難しいだろうと思っていました。しかし、思っていたよりも難しかったです。簡単だと思っていたわけではありません。とても難しいだろうと思っていました。でも、実際はもっと難しかったです」と彼は語った。それよりも。」

2019年12月29日、インディアナ州でテスラ車が駐車中の消防車と死亡事故を起こした同じ日、ケビン・ジョージ・アジズ・リアドという名の非番運転手は、灰色の2016年型テスラ・モデルSを運転してロサンゼルス郊外のガーデナ・フリーウェイを走行していた。 オレンジカウンティ訪問からの帰りは長いドライブだったので、リヤドではオートパイロットがオンになっていました。 真夜中を少し過ぎた頃、車は黄色のライトを点滅させながら「END FREEWAY SIGNAL AHEAD」と書かれた巨大な標識の下を通過した。

オートパイロットは、リヤドのテスラが高速道路の終点とアルテイシア大通りの始まりを示す信号に近づく間、一定の速度を維持した。 目撃者によると、信号は赤だったが車は交差点を直進し、ホンダ・シビックに衝突した。 リヤドさんは軽傷で済んだが、シビックに乗っていた2人、ジルベルト・アルカサル・ロペスさんとマリア・グアダルーペ・ニエベスさんが現場で死亡した。 彼らの家族は、彼らは初めてのデートだったと言った。

この事故の責任者は誰ですか? 州当局はリヤド氏を過失致死罪で起訴し、あたかもリヤド氏が２人の死の単独犯であるかのように起訴する予定だ。 一方、被害者の家族はリヤドとテスラの両社に対して民事訴訟を起こしている。 刑事および民事訴訟の結果次第では、オートパイロット システムは事実上、法的責任があるか、法的責任がないと判断されるか、あるいはその両方が同時に判断される可能性があります。

少し前、私はリヤドのテスラが赤信号を無視したとされる現場を見に行った。 私は、オートパイロットを制御して運転するのがどのような感じかを最終的に直接知るために、その日テスラをレンタルしました。 私は路面道路を東に走り、ランプに到着し、そこで州道 91 号線、ガーデナ フリーウェイに合流しました。 リヤドが墜落したのは深夜だった。 私は昼間に車に乗っていました。

高速道路に乗るとすぐにオートパイロットを作動させたところ、車が運転を引き継ぎました。 私はほとんど自分自身に道を持っていました。 このテスラは、オートパイロットが使用されているときは常に制限速度を 15 パーセント上回るようにプログラムされており、車は時速 114 マイルまで急速に加速しました。これは、リヤドが衝突したときの速度でした。 彼のオートパイロットの速度設定は同じでしたか?

車は車線内をうまく維持し、私が使用した他の交通認識クルーズコントロールよりも優れていました。 私はハンドルから手を放そうとしましたが、数秒後にテスラが私に向かってビープ音を鳴らしました。

事故現場に近づくにつれて、「END FREEWAY SIGNAL AHEAD」という巨大な標識の下を通り過ぎました。 オートパイロットは気楽に運転を続けた。 さらに 500 フィート進むと、同じ標識が再び現れ、緊急に点滅しました。 分断された高速道路は数百フィートしか残っておらず、その後、国道 91 号線がバーモント アベニューとの交差点で地上の通りに変わりました。

ブレーキの上に足を乗せてしまいました。 私は何をしていたのですか？ その車が本当に赤信号を無視して通過するかどうか見てみましょう? もちろんそうなるだろう。 そのようなことがどれほど簡単にできるかを想像しようとしていたのだと思います。 長い夜の終わりに、オートパイロットと呼ばれるものが制御されている、車のない道路で? 私の推測では、リヤドは自分が高速道路を離れたことにさえ気づかなかったのではないかと思います。

車は警告灯の下で時速114マイルでスピードを上げた。 衝突データによると、テスラ車がロペスとニエベスに衝突する前に、6分間ブレーキが使用されていなかった。

私のテスラは交差点で急降下しました。 どんどん光に近づいていきました。 ブレーキはありません。 そして、私が引き継ごうとした直前に、右端の車線からピックアップトラックが飛び出してきて、私の進路を割りました。 テスラはすぐにそれを察知し、急ブレーキをかけた。 巨大なハードウェアの塊と同じくらい否定できないあのトラックが 2019 年 12 月にそこにあったなら、ロペスとニエベスはまだ生きていたでしょう。

出典写真:​​ Alamy; シャッターストック。

クリストファー・コックスニューヨーク・マガジンの編集者であり、『The Deadline Effect』の著者です。 タイムズ・マガジンへの彼の最後の記事は、レストラン経営者ジャン・ジョルジュ・ヴォンゲリヒテンのビジネス帝国についてのものでした。 ジャスティン・メッツCGI で表現された大胆なコンセプトで知られるアート ディレクター兼イラストレーターです。

広告