生成AIでコード書くとレビューが難しくなる問題

速いけど、本人が理解してない差分が混ざると後で怖い。現場の運用どうしてる？

技術的に言うとレビューが難しいんじゃなくて、本人が差分の意味を説明できないのがバグ。 AI生成か手書きかは関係ない。 ただAIだとそのバグが量産される。

前の会社ではPRテンプレに「AI使った？」「自分で読んだ？」「動作確認した？」ってチェック欄あったわ なお全員チェックだけ入れてた模様

それAIでいいだろ レビューもAIに投げれば終わり 人間が人間を信用する時代は終わったんだよ

昔はコピペコードを貼っただけで袋叩きだったのにな 今はAIが混ぜた謎差分をありがたがってんのか この板も変わったな

ずっとROMってたけど、これマジで怖い。 うちの若手がAIに書かせた認可まわりの条件式、本人も「たぶん大丈夫です」しか言わなくてレビュー止まった。 速いのは速いけど、誰の理解にも載ってないコードがmainに入る感じがする。 …またROMに戻る

>>4 レビューもAIに投げるのは補助ならあり 責任者までAIにするなら会社ごとGitHubに転生しろ

小PRに分けるしかなくね AIで一気に3000行出して「レビューお願いします」は普通に嫌われる 面接でもそういう話すると評価いいぞ、知らんけど

>>8 小PRは正義 新参は知らんだろうけど、昔の巨大diffレビューは精神修行だった

>>7 責任者もAIでいい 人間の責任者だって結局ハンコ押してるだけだろ

今北 AI禁止すれば解決では？

>>11 禁止しても裏で使うだけ 仕組みとしては「使った前提で検査する」ほうが現実的

>>11 禁止の会社ほどこっそり使って事故る それブラックだぞ、転職しろ

>>11 包丁禁止したら料理人いなくなる理論やめろ

AIに任せろ派だけど、出てきたコードを読まない奴はAI使う資格ないと思う 包丁持ったまま目つぶって走るな

>>15 そこだけは同意 テスト通ったからOK、も危ない 生成AIの怖さは「それっぽい正常系」だけ妙に強いとこ

PRに「AI差分です」ってラベル貼られたら逆に身構えるから助かる でも貼った本人が怒られそうで貼らなそう

前の会社ではAI利用は申告制だったけど、罰する空気にした瞬間みんな黙った 運用って結局そこなんよな 怒るための申告欄にしたら終わり

レビューで「ここ何してるの？」って聞いて答えられない奴は昔からいた AIで増えただけ 昔は〜だったのにな、で片付けたいけど片付かん

シンギュラリティ来たら終わり レビュー文化とかいう儀式もそのうち民俗資料館行き

>>20 民俗資料館に入る前に本番障害の始末してくれ 現場運用なら「小PR」「本人説明」「AI利用申告」「境界値テスト追加」あたりが最低ラインだと思うわ

>>21 最低ラインはそれでいいけど、レビュー側の負荷が増えるのが地味に本題なんだよな AI差分って一見きれいだから、逆に疑う場所が見えにくい

ずっとROMってたけど、これレビュー担当だけに責任寄せると詰むと思う 書いた本人が理解してない差分を、レビューで全部発見しろって無理がある レビューって本来は見落としを減らす仕組みであって、作者の理解不足を肩代わりする仕組みではないんだよな …またROMに戻る

だから生成禁止でいいだろ 手書きの方が温かみあるだろ 理解してないコードを混ぜる時点で仕事じゃない

>>24 それAIでいいだろ 人間が理解するまで待つ運用がもうレガシー AIに任せろ

>>24 前の会社では生成AI全面禁止だったけど、みんな私物スマホで聞いてたぞ 禁止した瞬間にログも教育も消える それブラックだぞ、転職しろ

>>24 技術的に言うと禁止は統制じゃなくて観測不能化なんよ 使うな、じゃなくて使った差分を説明できる状態にしろ、の方がまだ現実的

>>27 観測不能とか横文字でごまかすな AIに魂はない 魂ないコードを本番に入れるな

責任の所在はDAOで投票して決めればよくね 中央集権レビューが限界なんだよ web3が未来

テスト通ればOK論もだいぶ危ない テストは仕様化された期待値しか見ないから、仕様に書いてない副作用やセキュリティ境界は普通に抜ける

>>30 そこもAIにテスト書かせればいい 人間レビューよりAIレビューを何周も回す方が早い

>>31 黙ってたけど一言言わせてくれ AIが書いたコードをAIがレビューしてAIがテスト書くと、同じ勘違いを全員で共有することがある 仕様の読み間違いが起点だと、全部それっぽく整合して通る そこが怖い

面接でも最近聞かれるわ 「AI生成コードの責任は誰が持つと思いますか」って 模範解答はだいたい、使った本人が一次責任、チームがプロセス責任、会社が運用責任

仕組みとしては実装前に設計レビュー挟むのがよさそう AIに投げる前に、入出力、影響範囲、失敗時の挙動だけ人間が合意する コードレビューで初めて設計を見るからしんどい

>>34 それはわかる 生成AIって実装速度が速いせいで、設計の雑さがそのまま高速で増幅される感じある 先に設計を小さく握るだけで、レビューの会話がだいぶ変わると思う

>>34 設計レビュー先行とかまた会議増やすのかよ 非効率すぎる シンギュラリティ来たら終わり

>>36 そのシンギュラリティとやらが来るまでに障害起こしたら誰が謝るんだよ AIに魂はないし謝罪会見もしない

>>37 魂じゃなくて責任境界の話な にわか乙と言いたいけど、謝る主体が必要って点は正しい

>>38 責任境界はスマコンに書け 署名もオンチェーンに残せ NFT買っとけ

責任者署名案はわりとある 前の会社ではPR本文に「生成AI利用あり」「説明責任者」「重点レビュー箇所」を書かせてた 怒るためじゃなくて、後から追えるように

>>40 その3点いいな 特に重点レビュー箇所があるとレビュー側が助かる AI差分です、だけだと情報量ゼロだからな

>>40 署名とか印鑑文化じゃん AIに任せろ 人間が名前書く儀式で品質が上がるわけない

>>42 署名で品質が上がるというより、本人が説明できないまま出す抑止になるんじゃないか 名前を書かせると急に読む人いるし 悲しいけどある

>>43 読んでないコードに名前を書くとかもう末期だろ 昔はパソコンなんかなくても帳簿に責任者印押してたんだぞ

テスト万能論への反論としては、テストは合意済みの仕様を固定する道具で、未知の仕様漏れを発見する道具ではないってとこ もちろん無いより百倍マシだけど、万能薬扱いは危険

>>45 わかる 前の会社では「テスト増やしました」で巨大PR通して、実はテストの期待値がバグ側に合わせてあった レビューで誰も気づかず燃えた

>>46 それは人間レビューも失敗してるじゃん ならAIが悪いんじゃなくてプロセスが悪い それAIでいいだろ案件

>>47 そこは同意 AIが悪というより、理解してない差分を理解してる風に流せるプロセスが悪い 生成禁止派と無条件推進派が両方雑

理解責任トークンを発行しろ レビューで承認したらステーキング、障害出したらスラッシュ DAOで解決

>>48 結局「誰が理解したことにするのか」なんだよな 本人が理解して、レビューアが妥当性を見る そこを飛ばしてレビューアが全部理解し直す運用になると、AIで速くなった分をレビューで全部吐き出す

>>50 だから最初から人間が書けばいい 手書きの方が温かみあるだろ 早くても後で怖いなら意味ない

>>51 人間が手で書いても理解してない奴はいるぞ 前の会社ではコピペ職人がそれだった AIで名前が変わっただけの地雷も多い

>>52 技術的に言うと、AIはコピペ職人にターボが付いた状態 だからレビュー単体で止めるより、小PR、設計メモ、自己説明、テスト観点の分離が要る

>>53 ターボ付いたなら使えよ 速度を落とす運用を足すから日本企業は遅い AIに任せろ

>>54 速度を落としたいんじゃなくて、事故った時に調べられる跡を残したいんだと思う 速いけど、後で誰も説明できません、は現場だと一番しんどい

>>55 ログとしてはPRに「生成元プロンプト全部貼れ」までは要らんと思う ただ、何をAIに任せて、何を人間が確認したかは残すべき そこがレビュー責任と理解責任の境界になる

ここまで見ると、禁止派も推進派も極端なんだよな 現実解は、AI利用申告、設計レビュー先行、責任者署名、テストは補助、って感じか ただ運用する会社の空気が終わってたら全部形骸化する それブラックだぞ、転職しろ

>>57 AI利用申告、設計レビュー先行、責任者署名ってもう稟議書じゃん AI使って速度上げる話なのに、人間のハンコ増やしてどうすんだよ それAIでいいだろ

>>58 技術的に言うと、速度って実装速度だけじゃなくて検証速度と復旧速度も含むんだわ コードが早く出ても、障害時に原因追えないならトータルでは遅い にわか乙

>>59 顔真っ赤やん AIに仕事取られそうで必死なの草

黙ってたけど一言言わせてくれ うち、AI生成の差分で本番事故あったぞ 一見きれいなリファクタだったけど、認可チェックの条件が微妙に変わってた 書いた本人は「AIが既存コードに合わせました」しか言えなくて、レビューした側も差分がでかすぎて追えてなかった 結局、原因調査に丸2日かかった 速度だけ見てたらマジで燃える

>>61 それAIの問題じゃなくてお前の会社のテストが弱いだけ AIに任せろって言ってるのであって、無テストで本番突っ込めとは言ってない

>>62 そこは半分合ってる ただ認可みたいな仕様の境界はテストで全部拾う前提が危ない 仕組みとしては、生成差分ほど人間が意図と不変条件を説明できないと詰む

>>61 丸2日で済んでよかったな 手書きなら3日かかってたかもしれんぞｗ

コードでも絵でも同じなんだよな AI吐出物をそのまま自分の成果物ですって出すから荒れる 線の味が違う、じゃなくて責任の筆圧が違う

マジレスすると最近のAIコードは責任者メタデータが埋め込まれるから、事故ったら生成モデルに請求できる 欧米ではもうやってる

>>66 はい嘘 生成モデルに請求とか契約読め ググレカス

>>67 入れ食いだな 技術オタク釣れすぎｗ

品質派って結局、人間が読める範囲に開発速度を落とせって言ってるだけなんだよ でももう生成量は増える レビューを人間に合わせるんじゃなくて、レビューもAIに寄せろ AIが書いてAIが読む、最後に人間が承認ボタン押すだけでいい

>>69 その最後の承認ボタンを押した人間が、何を承認したのか説明できないのが怖いって話だろ AIが読んだ結果を信じるなら、その信じた根拠を残してくれ 「AIが大丈夫って言いました」は現場の説明にならない

>>70 で？ 説明責任おじさん登場で草

>>69 レビューもAIに寄せるのはあり ただしAIレビューは補助であって、責任境界を消す道具じゃない CI、静的解析、型、差分要約、テスト観点抽出まではAIでいい 仕様判断とリスク受容は人間が持て

>>72 その「人間が持て」がレガシーなんだよ 人間の判断が一番遅くてブレる シンギュラリティ来たら終わり

>>73 シンギュラリティで労災報告書も書いてくれるなら呼んでくれ 現場には今日の本番リリースがあるんだよ

>>74 急に現実出すな 効いてて草

うちの事故で一番きつかったのは、AIを使ったかどうかじゃなくて、本人が差分を説明できなかったことだった 「たぶん不要な分岐だったので消しました」って言うけど、その分岐は古い取引先向けの例外処理だった ドキュメントも薄い、テストもない、でも業務では必要 こういう地雷にAIは普通に突っ込む

>>76 それ技術的に言うと、暗黙知をコードだけから復元できると思ってるのが危険 AIはコードベース内の文脈には強いけど、社内事情や契約条件みたいな外部仕様は知らない だから差分説明義務が要る

>>77 差分説明義務とか言い出したら、AI使わない人間にも全部説明させろよ 人間の手書きバグは温かみがあるから許すんですか？

>>78 温かみで本番は守れないぞ 手描き派の俺でもそこは言う

>>78 だから人間にも説明させるでFA AI利用時だけじゃなく、リスク高い差分は全部説明 ただAIは差分量が膨らみやすいから追加で縛るのが現実的

>>80 結局ルール増やしたいだけで草 仕事してる感すごいっすね

マジレスすると、弊社はAIが出したコードは全部コメントに「Generated by AI」って書かせてる それで監査通る 知らんけど

>>82 コメントで監査通るなら監査が寝てるだけだろ

>>83 大漁ｗｗｗ でも実際コメントだけ運用の会社ありそうで怖い

お前らが怖い怖い言ってる間に、AI使う会社は先に出すんだよ 市場で勝つのは品質会議してる会社じゃなくて、出して直す会社 AIに任せろ、事故ったらまたAIで直せばいい

>>85 出して直すにも種類がある UIの文言ミスならそれでいい 決済、認可、医療、会計みたいな領域で同じノリをやるなって話 リスク分類なしで速度だけ語るのはにわか乙

>>86 出た、医療会計カード 雑談板で急に重くすんなよ

>>87 軽いシステムでも、誰かの請求額とか個人情報に触るなら十分重いぞ 開発者が軽いと思ってるだけで、使う側には普通に被害が出る ここを笑うやつがレビュー通す側にいると終わる

>>88 じゃあ全部止めれば？ 完璧なレビューができるまでリリース禁止にしろよ その間に競合はAIで10個機能出すけどな

>>89 0か100でしか語れないのがAI原理主義者っぽい 絵でも「AI全部禁止」か「無断学習も全部OK」みたいな極論が荒らす 運用の話をしてるのに旗を振り回すな

>>89 誰も完璧なんて言ってない 必要なのは、AI生成差分のリスクを下げる最低ライン 小さく出す、意図を書く、不変条件を書く、テストを書く、レビュー観点を分ける これで速度は落ちるけど、爆発は減る

>>91 速度落ちるって自白してて草 AI使う意味なくね？

>>92 実装が10倍速くなって確認が2倍増えるならまだ得だろ 算数からやり直せ

マジレスするとAIレビューは赤字で危険度表示してくれるから、人間は赤いとこだけ読めばいい 緑の差分は読まなくていい これ豆な

>>94 それを本気にする新人がいるからやめろ 緑でも普通に壊れる

>>91 その最低ライン、全部AIに書かせればいいじゃん 意図も不変条件もテストもレビュー観点もAIが出す 人間はそれを眺めるだけ AIに任せろってそういうこと

>>96 AIに書かせるのはいい 問題は、その内容を本人が理解して採用したのか、ただ貼っただけなのか 差分説明義務って、文章を提出しろじゃなくて、責任を持って説明できる状態にしろって意味

>>97 責任責任うるせえな 責任って書けば品質上がると思ってそう

>>98 責任って言葉だけで品質は上がらないけど、責任の所在がない現場は確実に壊れる AIが悪いんじゃなくて、AIを盾にして「自分はよく分かりません」を通すのが悪い ここを曖昧にしたまま速度だけ上げると、事故った時に全員が被害者面する

結論っぽく言うと、AIに魂はないし、人間の手書きにも自動で魂は宿らない コードでも絵でも、出した本人が何を選んだか説明できるかだろ 学習データ問題を語れ、責任問題も語れ 便利だから黙って使えで押し切ると、後で燃える