【悲報】AIコードレビュー、「AIが大丈夫って言いました」では現場が震える模様
生成AIで爆速実装できる時代、スレ民が一番恐れていたのはAIそのものではなく「本人が説明できない差分」だった。禁止派、丸投げ派、現実派が入り乱れ、最後はレビュー文化そのものの話へ発展していく。
速いけど、本人が理解してない差分が混ざると後で怖い。現場の運用どうしてる？
技術的に言うとレビューが難しいんじゃなくて、本人が差分の意味を説明できないのがバグ。
AI生成か手書きかは関係ない。
ただAIだとそのバグが量産される。
ずっとROMってたけど、これマジで怖い。
うちの若手がAIに書かせた認可まわりの条件式、本人も「たぶん大丈夫です」しか言わなくてレビュー止まった。
速いのは速いけど、誰の理解にも載ってないコードがmainに入る感じがする。
…またROMに戻る
AIに任せろ派だけど、出てきたコードを読まない奴はAI使う資格ないと思う
包丁持ったまま目つぶって走るな
ずっとROMってたけど、これレビュー担当だけに責任寄せると詰むと思う
書いた本人が理解してない差分を、レビューで全部発見しろって無理がある
レビューって本来は見落としを減らす仕組みであって、作者の理解不足を肩代わりする仕組みではないんだよな
…またROMに戻る
黙ってたけど一言言わせてくれ
AIが書いたコードをAIがレビューしてAIがテスト書くと、同じ勘違いを全員で共有することがある
仕様の読み間違いが起点だと、全部それっぽく整合して通る
そこが怖い
責任者署名案はわりとある
前の会社ではPR本文に「生成AI利用あり」「説明責任者」「重点レビュー箇所」を書かせてた
怒るためじゃなくて、後から追えるように
黙ってたけど一言言わせてくれ
うち、AI生成の差分で本番事故あったぞ
一見きれいなリファクタだったけど、認可チェックの条件が微妙に変わってた
書いた本人は「AIが既存コードに合わせました」しか言えなくて、レビューした側も差分がでかすぎて追えてなかった
結局、原因調査に丸2日かかった
速度だけ見てたらマジで燃える
うちの事故で一番きつかったのは、AIを使ったかどうかじゃなくて、本人が差分を説明できなかったことだった
「たぶん不要な分岐だったので消しました」って言うけど、その分岐は古い取引先向けの例外処理だった
ドキュメントも薄い、テストもない、でも業務では必要
こういう地雷にAIは普通に突っ込む
>>89
誰も完璧なんて言ってない
必要なのは、AI生成差分のリスクを下げる最低ライン
小さく出す、意図を書く、不変条件を書く、テストを書く、レビュー観点を分ける
これで速度は落ちるけど、爆発は減る
結論っぽく言うと、AIに魂はないし、人間の手書きにも自動で魂は宿らない
コードでも絵でも、出した本人が何を選んだか説明できるかだろ
学習データ問題を語れ、責任問題も語れ
便利だから黙って使えで押し切ると、後で燃える
>>99 >>100
技術的に言うと、AI利用申告は懺悔欄じゃなくてメタデータでいい
・AI使った範囲
・自分で読んだ範囲
・不安な範囲
・追加したテスト
これだけPRテンプレに入れろ
プロンプト全文提出とか言い出すと運用が死ぬ
黙ってたけど一言言わせてくれ
運用案としては
1 AI利用範囲を書く
2 レビュー観点表を選ぶ
3 重要箇所は本人が説明できる
4 説明不能なら差し戻す
5 ただし人格攻撃は禁止
このへんが落とし所じゃないか
でも正直、文化が終わってる現場だと全部形骸化する
>>133
AIレビュー自体はあり
ただし同じ入力と同じ盲点を共有する可能性があるから独立性が弱い
技術的に言うとチェック主体を増やしてるようで故障モードが相関する
そこ分からず全部AIで回せはググレカス