freeeさんここまでやります...？笑 freee.co.jp/personal-busines…

スロップ負債、という記事 arpitbhayani.me/blogs/slop-d… ・従来の技術的負債とは、開発期限に間に合わせるために意図的な妥協をすることで生じるもの ・一方でスロップ負債は、誰も中身を理解していないAIコードを、テストが通ったからという理由だけで取り込むことで生じる ・AIが生成したコードは一見すると正常に動くが、設計されたものではなく、確率的にそれらしい単語を予測したにすぎない ・従来の技術的負債は人間が意図的に意思決定した結果なので、gitの履歴などからその判断理由を後からたどることができる ・スロップ負債は意思決定を欠いたまま作られるため、変数名やエラー処理のパターンがファイルごとに脈絡なく選ばれている ・一貫性を強制する設計者が存在しないため、同じ課題に対して全く異なる方法で実装されたコードが混在するようになる ・スロップ負債の本質は、コードの量が多すぎる点ではなく、コード全体の整合性が失われている点にある ・技術的負債は線形に増えるが、スロップ負債はAI自身が過去の乱雑なコードを文脈として読み込むため指数関数的に増殖する ・AIはすでに存在する不適切な設計パターンをそのまま学習し、おかしな構造をさらに高速で量産していく ・人間なら途中で疑問を抱いて修正するが、AIは疑問を持たずに間違ったパターンを何度でも自信満々に生成し続ける ・技術的負債はコードの構造をたどればバグを修正できるが、スロップ負債は構造そのものがないため原因の追跡が困難になる ・1つのファイルの中に複数の異なる方針や重複したコードが混在し、誰もその理由を説明できない ・AI生成コードは表面上は非常にきれいに見えるため、全体としての不整合が見落とされやすく、コードレビューでも防げない ・技術的負債は局所的であるため部分的にリファクタリングできるが、スロップ負債はシステム全体に薄く広がっている ・ある箇所を修正している間にも、隣のモジュールから新しい不整合が同じスピードで生み出され続ける ・ある程度の規模に達したスロップ負債は、きれいに書き直すのではなく、すべて破棄して人間が設計し直すしかない ・レビューを徹底したり文脈を制限したりする対策は多少の効果しかない ・コードが生成されるスピードに人間の管理体制が追いついておらず、設計の一貫性を保つための有効なツールも存在しない ・今後は多くの開発チームがこの不整合の問題に直面し、予算化されていないシステム全体の書き直しが頻発するようになる

理解と判断と責任を LLM に任せ始める人が増えてそうなんだよな。

攻撃するために質問をすると、質問されるだけで防衛反応が出るようになる blog.tinect.jp/?p=63824