AI活用でインシデント対応が進化する一方、エンジニアが実務スキルを喪失するリスク

AI支援型インシデント対応ツールが日常的な障害を効率よく解決する一方で、エンジニアが実際のシステムに向き合う機会が減り、複雑な問題への対応能力が低下する恐れがあると指摘されている。

2012年にLinkedInでSRE（Site Reliability Engineer）として勤務していた時代、著者のSylvain Kalacheは過去のインシデントから学習し、自己修復できるシステムを設計した。現在、AI支援型インシデント対応ツールはアラートを検査し、仮説を立て、テレメトリをクエリし、最近のデプロイメントを関連付け、修正を自動実装している。これらのツールが日常的なインシデント解決に優れるほど、人間のインシデント対応者は実践経験を積む機会を失うことになる。

自動化のパラドックス

1983年にLisanne Bainbridgeが発表した論文「The Ironies of Automation」では、「自動化によって日常的な業務を練習する機会が減少する一方で、新しい異常事態への対応責任は人間に残される」と指摘している。航空業界がこの現象の典型例となっている。現代のタービンエンジンの故障は10万フライト時間当たり1件未満に低下しているが、2014年に発生したTransAsia Airways Flight 235では、乗務員がエンジンの不具合を誤認識したため、最初の警告から117秒後に墜落した。米国のFAA規則では、機長は6か月ごとに定期訓練か技能確認を実施する必要があり、離陸時のエンジン故障を含むシナリオが含まれている。

対応時間の二極化とスキルギャップ

著者は「日常的なインシデントの平均MTTR（Mean Time To Recovery）はAI支援型対応により低下するだろうが、複雑なインシデントの解決時間は、対応エンジニアがシステムに不慣れになり調査に苦しむため、急上昇するだろう」と予測している。Rootlyはこの課題に対応するため、Uptime Labsと提携してインシデントシミュレーションの展開を推進している。著者は6年以上かけてプログレッシブ教育を中心とするソフトウェアエンジニアリングスクールを構築したが、Dropboxの採用担当者から、卒業生のトラブルシューティングスキルはなお不十分であるとの指摘を受けている。

実務経験の不可欠性

著者は「日常的なインシデントこそが対応者がシステムの動作と故障のパターンについて直感を安全に培う手段である」と論じており、「テニスはSerena Williamsのプレイを観戦しても学べず、コートに出て実践するしかない。インシデント対応も同じだ」と述べている。自動化ツールが高度になるほど、人間がそれに依存し、複雑なシステム障害が発生した際に対応能力が損なわれる可能性が高まることが懸念される。

この記事は元記事の事実のみに基づいて自動生成されました。

出典

Sylvain Kalache、「AI handles incidents, engineers lose touch with their systems」、https://www.sylvainkalache.com/blog/ai-handles-incidents-engineers-lose-touch-with-their-systems