第3部は、うまくいかない話をします。
AIに任せていれば、事故は起きます。
ぼくも、やらかしてきました。
先に結論を言います。
事故をゼロにはできません。
できるのは、同じ事故を二度と起こさないことです。
そのための作法が、今回のテーマです。
一つ目。
サイトの更新をAIに任せていたとき、販売中の商品ページが一時的に消えました。
原因は、古い状態のデータから更新をかけてしまい、新しい変更が巻き戻されたことです。
気づいて戻すまで、およそ20分。
その間、お客さんには「ページがありません」が表示されていました。
二つ目。
作業のやり直しをAIに指示したら、まだ保存していなかった変更ごと消えました。
「元に戻して」という軽い一言が、思った以上に広い範囲を戻してしまったのです。
数時間ぶんの仕事が消えました。