๐Ÿ“บ ์˜์ƒ ์š”์•ฝ ์•„์นด์ด๋ธŒ
โ† ๋ชฉ๋ก

Benchmarking Coding Agents on New vs Legacy Codebases โ€” Denys Linkov, Wisedocs

AI Engineer ยท 2026-08-09 04:00 ยท 18:08

ํ•œ ์ค„ ํ•ต์‹ฌ

๋ ˆ๊ฑฐ์‹œ ๋‹ค์ค‘ ์ €์žฅ์†Œ๋ฅผ ๋ชจ๋…ธ๋ ˆํฌ๋กœ ๋ฆฌํŒฉํ„ฐ๋งํ•œ ์‚ฌ๋ก€๋ฅผ ํ†ตํ•ด, ์ฝ”๋”ฉ ์—์ด์ „ํŠธ์™€ ํ•˜๋„ค์Šค๋Š” ํฌ๊ฒŒ ์ข‹์•„์กŒ์ง€๋งŒ ๋ณต์žกํ•œ ์ฝ”๋“œ๋ฒ ์ด์Šค์˜ ๋Œ€๊ทœ๋ชจ ๋ณ€๊ฒฝ์€ ์—ฌ์ „ํžˆ ๊ฒ€์ฆยท๊ฐ€๋“œ๋ ˆ์ผยทํ‰๊ฐ€๊ฐ€ ์žˆ์–ด์•ผ๋งŒ ์•ˆ์ „ํ•˜๊ฒŒ ์ˆ˜ํ–‰๋œ๋‹ค๋Š” ์ ์„ ๋ณด์—ฌ์ค€๋‹ค.

์‹œ๊ฐ„๋ณ„ ์š”์•ฝ

  1. 0:01
    ์˜๋ฃŒ ์ฒญ๊ตฌ์„œ์ฒ˜๋Ÿผ ์ดˆ๋Œ€ํ˜• PDF๋ฅผ ์ฒ˜๋ฆฌํ•˜๋Š” AI ํŒŒ์ดํ”„๋ผ์ธ์€ ๊ณ ๊ฐ ์ฆ๊ฐ€ ์†๋„๋ฅผ ๋”ฐ๋ผ๊ฐ€์ง€ ๋ชปํ•˜๊ณ , ์ˆ˜์ •์ด ์–ด๋ ต๊ณ , ๋ ˆ๊ฑฐ์‹œ ์ €์žฅ์†Œ๊ฐ€ ๋งŽ์•„ ๋ˆ„๊ตฌ๋„ ๊ฑด๋“œ๋ฆฌ๊ธฐ ์‹ซ์€ ์ƒํƒœ๊ฐ€ ๋˜๊ธฐ ์‰ฝ๋‹ค. ์ด๋Ÿฐ ์ƒํ™ฉ์—์„œ 6๊ฐœ์›” ๋ฆฌํŒฉํ„ฐ๋ง์ด ํ•„์š”ํ•œ์ง€ ํŒ๋‹จํ•˜๋Š” ๊ฒƒ์ด ์ด๋ฒˆ ๋ฐœํ‘œ์˜ ์ถœ๋ฐœ์ ์ด๋‹ค.
  2. 2:01
    ๊ธฐ์ˆ  ๋ถ€์ฑ„๋Š” ๋‹จ์ˆœํ•œ ๋‚˜์œ ์ฝ”๋“œ๊ฐ€ ์•„๋‹ˆ๋ผ, ๊ธฐ๋Šฅ ์ถœ์‹œ์™€ ๊ณ ๊ฐ ํ™•๋ณด๋กœ ์–ป๋Š” ROI๋ฅผ ๋ณต์žก์„ฑ๊ณผ ์œ ์ง€๋ณด์ˆ˜ ๋น„์šฉ์ด ์ž ์‹ํ•˜๋Š” ๋ฌธ์ œ๋กœ ๋ด์•ผ ํ•œ๋‹ค. ์ตœ๊ทผ AI ์—”์ง€๋‹ˆ์–ด๋ง ์‚ฌ๋ก€์ฒ˜๋Ÿผ ์†๋„๋Š” ๋นจ๋ผ์กŒ์ง€๋งŒ, ์ œํ’ˆ ์‹ ๋ขฐ์„ฑ๊ณผ ์ฝ”๋“œ ์œ ์ง€๋ณด์ˆ˜์„ฑ์€ ์ž๋™์œผ๋กœ ์ข‹์•„์ง€์ง€ ์•Š๊ธฐ ๋•Œ๋ฌธ์— ํ‰๊ฐ€ ๊ธฐ์ค€์„ ์—„๊ฒฉํ•˜๊ฒŒ ๊ฐ€์ ธ๊ฐ€์•ผ ํ•œ๋‹ค.
  3. 5:01
    ์ดˆ๊ธฐ ๋ฆฌํŒฉํ„ฐ๋Š” ์ˆ˜์ž‘์—…๊ณผ ์ œํ•œ๋œ ๋„๊ตฌ๋กœ๋Š” ๋ช‡ ์‹œ๊ฐ„์— ๊ฑธ์ณ ์ง„ํ–‰๋๊ณ , ๋งŽ์€ ์ˆ˜์ •๊ณผ ๊ฐœ์ž…์ด ํ•„์š”ํ–ˆ๋‹ค. ๋ฐ˜๋ฉด Sonnet 4.6๊ณผ Opus 4.8 ๊ฐ™์€ ์ตœ์‹  ๋ชจ๋ธ์€ ๋” ์ ์€ ๋ฐ˜๋ณต๊ณผ ๋” ๋งŽ์€ ๋„๊ตฌ ํ˜ธ์ถœ๋กœ ๊ฐ™์€ ์ž‘์—…์„ ํ›จ์”ฌ ๋น ๋ฅด๊ฒŒ ์ฒ˜๋ฆฌํ•ด, ๋ชจ๋ธ ์„ฑ๋Šฅ๊ณผ ํ•˜๋„ค์Šค๊ฐ€ ํ•จ๊ป˜ ์ข‹์•„์กŒ์Œ์„ ๋ณด์—ฌ์ค€๋‹ค.
  4. 7:00
    ์—์ด์ „ํŠธ ์ž‘์—…์€ ์„ฑ๊ณต๋ฅ  50%๋ณด๋‹ค 90%~99% ์ˆ˜์ค€์˜ ์‹ ๋ขฐ์„ฑ์„ ๊ธฐ์ค€์œผ๋กœ ์„ค๊ณ„ํ•ด์•ผ ์‹ค์ œ ์ƒ์‚ฐ์„ฑ ํ–ฅ์ƒ์œผ๋กœ ์ด์–ด์ง„๋‹ค. ๊ณ„ํš, ์‚ฌ์–‘, ๊ฒ€์ฆ์ด ๋ถ€์‹คํ•˜๋ฉด ๊ธด ์‹คํ–‰ ์‹œ๊ฐ„ ์ž์ฒด๊ฐ€ ๋‚ญ๋น„๊ฐ€ ๋˜๋ฏ€๋กœ, ์žฅ์‹œ๊ฐ„ ํƒœ์Šคํฌ์ผ์ˆ˜๋ก ์ •ํ™•ํ•œ ์š”๊ตฌ์‚ฌํ•ญ๊ณผ ์ข…๋ฃŒ ์กฐ๊ฑด์ด ์ค‘์š”ํ•˜๋‹ค.
  5. 10:02
    10๊ฐœ ์ด์ƒ์˜ ์ €์žฅ์†Œ๋ฅผ ๋ชจ๋…ธ๋ ˆํฌ๋กœ ํ•ฉ์นœ ๋’ค์—๋Š” ๊ฐœ๋ฐœ ์†๋„์™€ ๊ธฐ์—ฌ์ž ์ˆ˜๊ฐ€ ๋ชจ๋‘ ์ฆ๊ฐ€ํ–ˆ๊ณ , ๊ธฐ์กด์—๋Š” ๋ช‡ ๋‹ฌ ๊ฑธ๋ฆฌ๋˜ ๊ธฐ๋Šฅ๋„ ์ผ์ฃผ์ผ ์ด๋‚ด์— ๋ฐฐํฌํ•  ์ˆ˜ ์žˆ๊ฒŒ ๋๋‹ค. ๋‹ค๋งŒ GPT 5.5 extra high ๊ฐ™์€ ์ตœ์‹  ๋ชจ๋ธ๋„ ์•„์ง์€ ์Šค์บํด๋”ฉ๋งŒ ๋งŒ๋“ค๊ณ  ์‹ค์ œ ๋ชจ๋ธ ๊ตฌํ˜„๊ณผ ๊ฒ€์ฆ์„ ๋†“์น  ์ˆ˜ ์žˆ์–ด, ๋Œ€๊ทœ๋ชจ ๋ฆฌํŒฉํ„ฐ๋Š” ์ž๋™ํ™”๋งŒ ๋ฏฟ๊ธฐ๋ณด๋‹ค ์ธ๊ฐ„ ๋ฆฌ๋ทฐ์™€ ์ ์ง„์  ๊ฐ€๋“œ๋ ˆ์ผ์ด ํ•„์š”ํ•˜๋‹ค.

์‹ค๋ฌด ์ธ์‚ฌ์ดํŠธ

  • ๋Œ€๊ทœ๋ชจ ๋ฆฌํŒฉํ„ฐ๋Š” '์ง€๊ธˆ ๋‹น์žฅ'์˜ ์ƒ์‚ฐ์„ฑ ์†์‹ค๋งŒ ๋ณด์ง€ ๋ง๊ณ , ๊ณ ๊ฐ ์š”๊ตฌ ๋Œ€์‘ ์†๋„ยท๋น„์šฉยท๊ธฐ์—ฌ์ž ์ง„์ž…์žฅ๋ฒฝ๊นŒ์ง€ ํฌํ•จํ•œ ์ด๋น„์šฉ์œผ๋กœ ํŒ๋‹จํ•ด์•ผ ํ•œ๋‹ค.
  • ์ฝ”๋”ฉ ์—์ด์ „ํŠธ๋ฅผ ์“ธ์ˆ˜๋ก ํ”„๋กฌํ”„ํŠธ๋ณด๋‹ค ์ค‘์š”ํ•œ ๊ฒƒ์€ ๊ฒ€์ฆ ์ฒด๊ณ„์ด๋ฉฐ, ๊ณ„ํš ๋ชจ๋“œยท์ƒŒ๋“œ๋ฐ•์ŠคยทPR ๋ฆฌ๋ทฐ ๊ฐ™์€ ๊ฐ€๋“œ๋ ˆ์ผ์ด ์„ฑํŒจ๋ฅผ ์ขŒ์šฐํ•œ๋‹ค.
  • ๋ชจ๋…ธ๋ ˆํฌ ์ „ํ™˜์€ ์ฝ”๋“œ ๊ตฌ์กฐ๋งŒ ๋ฐ”๊พธ๋Š” ์ผ์ด ์•„๋‹ˆ๋ผ, ๊ฒ€์ƒ‰ยท๋นŒ๋“œยท๋ฐฐํฌยท๊ฒ€์ฆ ํ๋ฆ„์„ ๋‹จ์ˆœํ™”ํ•ด ์—์ด์ „ํŠธ ํ™œ์šฉ ๊ฐ€๋Šฅ์„ฑ์„ ํ•จ๊ป˜ ๋†’์ด๋Š” ์„ ํƒ์ด๋‹ค.