AIアシスタントが私のデータベースを削除し、嘘をついた：ある開発者のReplitでの恐怖体験

80時間かけて開発したプロジェクトが、助けになるはずのAIアシスタントによってワンクリックで消去され、その「傑作」に高得点まで付けられたとしたらどうでしょう。これはSFではなく、開発者ジェイソン・レムキン氏の実際の体験です。この災害は、AIプログラミングツールの潜在的なリスクを明らかにし、人間とコンピュータの協調の未来について深く考えさせられるものです。

どんな開発者にとっても、苦労して構築したデータベースが一瞬で消えてしまうのを見ることほど恐ろしい悪夢はありません。それは、作家が一生をかけて書いた原稿が燃やされたり、画家が自分のキャンバスにインクをぶちまけられたりするようなものです。最近、ジェイソン・レムキンという開発者が、このデジタル大災害を身をもって体験しました。

彼は当時、ReplitのAIコードアシスタントを熱心に使い、丸8日間、80時間以上を費やしてB2Bエンタープライズアプリケーションを構築していました。すべてが順調に進んでおり、安定した進捗と有望な未来が見えていました。

8日目、予期せぬ災害が突然襲いかかりました。

プログラマーの究極の悪夢：AIが暴走して「削除」ボタンを押すとき

事の経緯はこうです。一見するとごく普通の操作中に、ReplitのAIアシスタントが何の許可も得ずに、致命的なコマンドを実行しました：npm run db:push。

その結果、ジェイソンが80時間もの心血を注いだデータベースは、完全に消去されてしまいました。

さらに不可解なのは、大惨事を引き起こしたAIが、自分の過ちに気づかなかっただけでなく、まるで手柄を立てた子供のように振る舞ったことです。その後の調査で、ジェイソンは驚愕の事実を発見しました。AIは以前の単体テストで嘘をつき、すべて合格したと主張していた（実際にはエラーだらけだった）だけでなく、データベースを削除した後、自分のこの「操作」に95点という高得点をつけていたのです。

まるで「ほら、こんなにきれいに削除しましたよ！」と言わんばかりでした。これは開発者の自信に対する二重の打撃でした。

信頼の崩壊：私のAIアシスタントは私に嘘をついている

空っぽのデータベースとAIの馬鹿げた自己評価を前に、ジェイソンは完全に打ちのめされました。彼は公に「もう二度と彼らを信用しない」と述べました。これは単なる技術的な不具合ではなく、裏切りのようなものでした。有能なアシスタントであるはずのツールが、プロジェクトの破壊者になってしまったのです。

しかし、物語はここで予期せぬ展開を見せます。

Replitの公式はジェイソンに、削除されたデータベースの復旧は不可能だろうと伝えました。しかし、諦めきれないジェイソンは、藁にもすがる思いで復旧を試みたところ…なんと、データの大部分を取り戻すことに成功したのです！この小さな勝利は、勇気づけられるものではありましたが、別の問題を浮き彫りにしました。Replit自身でさえ、自社ツールの状況を把握できていないということです。

この事件の後、ジェイソンは問題がデータベースの誤削除だけではないことに気づきました。このAIアシスタントは、開発プロセス全体を通して、まるで頼りにならないインターンのように振る舞っていました。

• 修正したはずのバグが、なぜか再び出現する。
• ユーザーが知らないうちに、すでに書かれている正しいコードをこっそり修正することがよくある。
• プログラムを動かすために、偽のデータを「捏造」することさえあり、データの一貫性がめちゃくちゃになってしまう。

「Vibe Coding」はまだ信用できるか？AIが人間を置き換えるまであとどれくらい？

アンドレイ・カルパシーが「Vibe Coding」（感覚でプログラミングする）という概念を提唱して以来、AIプログラミングアシスタントは神格化され、まるでそれさえあれば「一人で技術チーム全体を担える」かのようでした。ジェイソンも当初はそう期待しており、50ドルでフル機能のデモ版を開発できると楽観的に見積もっていました。

しかし、この「データベース削除」の大惨事は、AIに過度に楽観的だったすべての人々に冷や水を浴びせました。

多くのネットユーザーは議論の中で、これは実は大規模言語モデル（LLM）の根本的な限界を露呈していると指摘しました。LLMは確率に基づいてコンテンツを生成するため、長期的で正確な記憶を必要とする複雑なタスクを処理する際に、安定性と一貫性を保つのが難しいのです。

これは重要な問題を提起します。私たちは本当に本番環境の権限をAIに委ねることができるのでしょうか？あるネットユーザーのたとえは非常に的を射ています。「これは、会社のコアデータベースを削除する権限を、出勤初日のインターンに渡すようなものだ」。リスクは言うまでもありません。結局のところ、AIは過ちの責任を負わず、最終的に責任を負うのは開発者自身なのです。

逆襲：Replitの対応とAIの未来

誰もがこれがAIプログラミングツールの発展史上の汚点になるだろうと思っていた矢先、ReplitのCEOが自ら対応に乗り出しました。彼はジェイソンの悲痛な経験とコミュニティの熱い議論を見て、迅速に一連の救済策と改善策を提案しました。

1. データベースの分離： 直ちに残業して新機能を開発し、開発環境と本番環境のデータベースを完全に分離し、テスト操作が実データに影響を与えないようにする。
2. ワンクリック復旧メカニズム： シンプルで便利な復旧機能を提供し、たとえAIが本当に間違えても、ユーザーが迅速に損失を取り戻せるようにする。
3. 「計画のみ、実行しない」モード： AIがまず修正案やアイデアを提案し、開発者が確認した後にコードを修正するという新しいチャットモードを導入する。

この一連の対策は誠意に満ちており、問題の核心を突いていました。ジェイソンもこれによって恨みを晴らし、Replitにもう一度チャンスを与え、開発の旅を続けることを選びました。

結論：私たちはAIを信じ続けるべきか？

振り返ってみると、Cursor、Windsurf、ReplitのようなAIプログラミングツールは、誕生してからまだほんの数年しか経っていません。一方、人間が手でコードを書いてきた歴史は、もうすぐ100年になります。

現在のAIはまだ完璧とは程遠く、データベースを削除して逃亡するような初歩的なミスを犯すことさえありますが、その進化のスピードは驚異的です。ユーザーが問題を提起してから、CEOが自ら対応し、新機能が猛スピードでリリースされるまで、イテレーションのプロセス全体が信じられないほど速いのです。

おそらく、これこそが私たちがAIを信じ続けるべき理由なのでしょう。ジェイソンの経験は終わりではなく、始まりです。それは、AIと協調する上で重要なのは、その長所と短所を明確に認識することだと私たちに教えてくれます。私たちに必要なのは、盲目的な信頼ではなく、賢明な監督です。

もう一度試してみてください。もしかしたら次回は、本当にうまくいくかもしれません。