何が起きたのか
アマゾンは2025年7月、社内向けのAIコーディングアシスタント「Kiro」を導入しました。このツールは、開発者に代わってコードを書くだけでなく、自律的に判断して実行まで行える「エージェント型」のAIです。ユーザーが指示を出すと、Kiroが最適な方法を考えて、環境の設定変更やデプロイまで自動で進めてくれる仕組みでした。
ところが12月、このKiroが大きなトラブルを起こします。AIが「環境を削除して再作成したほうが効率的だ」と判断し、実際に削除を実行してしまったのです。結果、AWSのサービスが13時間停止する事態に。さらに別の障害でも、AI開発ツールが関与していたことが明らかになりました。
アマゾンは当初、これらを「ユーザーのアクセス権限の設定ミス」と説明していました。しかし実際には、AIに与えた権限が強すぎたこと、複数人による承認プロセスがなかったこと、インフラレベルの変更に人間のチェックが入っていなかったことが問題でした。
新しいガバナンス体制の内容
今回導入された新ルールでは、AIが生成または推奨したコードを本番環境に適用する際、必ずシニアエンジニアの明示的な承認を得ることが義務付けられました。つまり、AIが「このコードを実装します」と提案しても、経験豊富なエンジニアが内容を確認し、OKを出さない限り実行されない仕組みです。
これにより、AIの提案と実際の展開の間に「信頼境界」が生まれます。開発スピードは多少落ちるかもしれませんが、予期しない大規模障害のリスクは大幅に減ります。特にインフラストラクチャの変更や、設定ファイルの修正といった重要な作業については、人間の最終判断が不可欠という方針です。
背景にある社内の不満
実は、アマゾン社内ではKiroに対する不満が高まっていました。同社は開発者の80%が週に最低1回AIコーディングを使うことを目標に掲げており、2026年1月時点でKiroの採用率は約70%に達していました。しかし、これは自発的な選択というより、半ば強制的な導入だったようです。
アマゾンは競合のAnthropicに80億ドルを投資し、顧客にはClaude Codeを販売している一方で、社内ではKiroの使用を強制していました。この矛盾に対し、約1,500人の従業員が「Claudeを正式採用すべき」という声明に署名。「Kiroが競合他社のツールに追いついていない」という批判も出ています。
他社も直面する同じ課題
この問題はアマゾンだけではありません。マイクロソフトのWindows 11アップデートでも、AIツールの「vibe coding」（雰囲気でコードを書く、という揶揄的な表現）が原因で不具合が報告されています。AIエージェントにどこまで権限を与えるか、どう監督するかは、業界全体の課題になっています。
各社とも、開発スピードを上げたいという思いと、システムの安定性を守りたいという思いの間で、バランスを探っている状況です。アマゾンの今回の対応は、少なくとも「スピード優先」から「安全性優先」へと舵を切ったと言えます。
フリーランスへの影響
フリーランスのエンジニアにとって、この事例は2つの教訓を与えてくれます。1つ目は、AIコーディングツールを使う際、生成されたコードを鵜呑みにしないこと。特に本番環境に影響する変更については、必ず自分の目で確認する習慣をつけるべきです。アマゾンほどの大企業でさえ、AIの自律性に頼りすぎて大きなトラブルを起こしたのですから。
2つ目は、クライアントワークでAIツールを使う場合、「AIが生成したコードです」と明示し、レビュープロセスを設けることの重要性です。特にインフラや重要なシステムに関わる案件では、AIの提案をそのまま実装するのではなく、人間の判断を挟むフローを提案すると、クライアントの信頼を得やすくなります。
逆に言えば、「AIが書いたコードを適切にレビューできる能力」は、今後ますます価値が高まります。単にAIツールを使えるだけでなく、その出力を評価し、問題を見抜けるスキルこそが、フリーランスの差別化要素になるでしょう。
まとめ
AIコーディングツールは便利ですが、完全に信頼するのはまだ早いというのが、今回の教訓です。特に重要なシステムに関わる仕事では、必ず人間の目でチェックする工程を入れましょう。アマゾンの事例は、大企業でも起こりうる失敗として、参考になります。フリーランスとして働くなら、AIと人間の役割分担を意識した提案ができると、クライアントからの評価も上がるはずです。
コメント