Benchmarking Coding Agents on New vs Legacy Codebases โ Denys Linkov, Wisedocs
ํ ์ค ํต์ฌ
๋ ๊ฑฐ์ ๋ค์ค ์ ์ฅ์๋ฅผ ๋ชจ๋ ธ๋ ํฌ๋ก ๋ฆฌํฉํฐ๋งํ ์ฌ๋ก๋ฅผ ํตํด, ์ฝ๋ฉ ์์ด์ ํธ์ ํ๋ค์ค๋ ํฌ๊ฒ ์ข์์ก์ง๋ง ๋ณต์กํ ์ฝ๋๋ฒ ์ด์ค์ ๋๊ท๋ชจ ๋ณ๊ฒฝ์ ์ฌ์ ํ ๊ฒ์ฆยท๊ฐ๋๋ ์ผยทํ๊ฐ๊ฐ ์์ด์ผ๋ง ์์ ํ๊ฒ ์ํ๋๋ค๋ ์ ์ ๋ณด์ฌ์ค๋ค.
์๊ฐ๋ณ ์์ฝ
-
0:01
์๋ฃ ์ฒญ๊ตฌ์์ฒ๋ผ ์ด๋ํ PDF๋ฅผ ์ฒ๋ฆฌํ๋ AI ํ์ดํ๋ผ์ธ์ ๊ณ ๊ฐ ์ฆ๊ฐ ์๋๋ฅผ ๋ฐ๋ผ๊ฐ์ง ๋ชปํ๊ณ , ์์ ์ด ์ด๋ ต๊ณ , ๋ ๊ฑฐ์ ์ ์ฅ์๊ฐ ๋ง์ ๋๊ตฌ๋ ๊ฑด๋๋ฆฌ๊ธฐ ์ซ์ ์ํ๊ฐ ๋๊ธฐ ์ฝ๋ค. ์ด๋ฐ ์ํฉ์์ 6๊ฐ์ ๋ฆฌํฉํฐ๋ง์ด ํ์ํ์ง ํ๋จํ๋ ๊ฒ์ด ์ด๋ฒ ๋ฐํ์ ์ถ๋ฐ์ ์ด๋ค.
-
2:01
๊ธฐ์ ๋ถ์ฑ๋ ๋จ์ํ ๋์ ์ฝ๋๊ฐ ์๋๋ผ, ๊ธฐ๋ฅ ์ถ์์ ๊ณ ๊ฐ ํ๋ณด๋ก ์ป๋ ROI๋ฅผ ๋ณต์ก์ฑ๊ณผ ์ ์ง๋ณด์ ๋น์ฉ์ด ์ ์ํ๋ ๋ฌธ์ ๋ก ๋ด์ผ ํ๋ค. ์ต๊ทผ AI ์์ง๋์ด๋ง ์ฌ๋ก์ฒ๋ผ ์๋๋ ๋นจ๋ผ์ก์ง๋ง, ์ ํ ์ ๋ขฐ์ฑ๊ณผ ์ฝ๋ ์ ์ง๋ณด์์ฑ์ ์๋์ผ๋ก ์ข์์ง์ง ์๊ธฐ ๋๋ฌธ์ ํ๊ฐ ๊ธฐ์ค์ ์๊ฒฉํ๊ฒ ๊ฐ์ ธ๊ฐ์ผ ํ๋ค.
-
5:01
์ด๊ธฐ ๋ฆฌํฉํฐ๋ ์์์ ๊ณผ ์ ํ๋ ๋๊ตฌ๋ก๋ ๋ช ์๊ฐ์ ๊ฑธ์ณ ์งํ๋๊ณ , ๋ง์ ์์ ๊ณผ ๊ฐ์ ์ด ํ์ํ๋ค. ๋ฐ๋ฉด Sonnet 4.6๊ณผ Opus 4.8 ๊ฐ์ ์ต์ ๋ชจ๋ธ์ ๋ ์ ์ ๋ฐ๋ณต๊ณผ ๋ ๋ง์ ๋๊ตฌ ํธ์ถ๋ก ๊ฐ์ ์์ ์ ํจ์ฌ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํด, ๋ชจ๋ธ ์ฑ๋ฅ๊ณผ ํ๋ค์ค๊ฐ ํจ๊ป ์ข์์ก์์ ๋ณด์ฌ์ค๋ค.
-
7:00
์์ด์ ํธ ์์ ์ ์ฑ๊ณต๋ฅ 50%๋ณด๋ค 90%~99% ์์ค์ ์ ๋ขฐ์ฑ์ ๊ธฐ์ค์ผ๋ก ์ค๊ณํด์ผ ์ค์ ์์ฐ์ฑ ํฅ์์ผ๋ก ์ด์ด์ง๋ค. ๊ณํ, ์ฌ์, ๊ฒ์ฆ์ด ๋ถ์คํ๋ฉด ๊ธด ์คํ ์๊ฐ ์์ฒด๊ฐ ๋ญ๋น๊ฐ ๋๋ฏ๋ก, ์ฅ์๊ฐ ํ์คํฌ์ผ์๋ก ์ ํํ ์๊ตฌ์ฌํญ๊ณผ ์ข ๋ฃ ์กฐ๊ฑด์ด ์ค์ํ๋ค.
-
10:02
10๊ฐ ์ด์์ ์ ์ฅ์๋ฅผ ๋ชจ๋ ธ๋ ํฌ๋ก ํฉ์น ๋ค์๋ ๊ฐ๋ฐ ์๋์ ๊ธฐ์ฌ์ ์๊ฐ ๋ชจ๋ ์ฆ๊ฐํ๊ณ , ๊ธฐ์กด์๋ ๋ช ๋ฌ ๊ฑธ๋ฆฌ๋ ๊ธฐ๋ฅ๋ ์ผ์ฃผ์ผ ์ด๋ด์ ๋ฐฐํฌํ ์ ์๊ฒ ๋๋ค. ๋ค๋ง GPT 5.5 extra high ๊ฐ์ ์ต์ ๋ชจ๋ธ๋ ์์ง์ ์ค์บํด๋ฉ๋ง ๋ง๋ค๊ณ ์ค์ ๋ชจ๋ธ ๊ตฌํ๊ณผ ๊ฒ์ฆ์ ๋์น ์ ์์ด, ๋๊ท๋ชจ ๋ฆฌํฉํฐ๋ ์๋ํ๋ง ๋ฏฟ๊ธฐ๋ณด๋ค ์ธ๊ฐ ๋ฆฌ๋ทฐ์ ์ ์ง์ ๊ฐ๋๋ ์ผ์ด ํ์ํ๋ค.
์ค๋ฌด ์ธ์ฌ์ดํธ
- ๋๊ท๋ชจ ๋ฆฌํฉํฐ๋ '์ง๊ธ ๋น์ฅ'์ ์์ฐ์ฑ ์์ค๋ง ๋ณด์ง ๋ง๊ณ , ๊ณ ๊ฐ ์๊ตฌ ๋์ ์๋ยท๋น์ฉยท๊ธฐ์ฌ์ ์ง์ ์ฅ๋ฒฝ๊น์ง ํฌํจํ ์ด๋น์ฉ์ผ๋ก ํ๋จํด์ผ ํ๋ค.
- ์ฝ๋ฉ ์์ด์ ํธ๋ฅผ ์ธ์๋ก ํ๋กฌํํธ๋ณด๋ค ์ค์ํ ๊ฒ์ ๊ฒ์ฆ ์ฒด๊ณ์ด๋ฉฐ, ๊ณํ ๋ชจ๋ยท์๋๋ฐ์คยทPR ๋ฆฌ๋ทฐ ๊ฐ์ ๊ฐ๋๋ ์ผ์ด ์ฑํจ๋ฅผ ์ข์ฐํ๋ค.
- ๋ชจ๋ ธ๋ ํฌ ์ ํ์ ์ฝ๋ ๊ตฌ์กฐ๋ง ๋ฐ๊พธ๋ ์ผ์ด ์๋๋ผ, ๊ฒ์ยท๋น๋ยท๋ฐฐํฌยท๊ฒ์ฆ ํ๋ฆ์ ๋จ์ํํด ์์ด์ ํธ ํ์ฉ ๊ฐ๋ฅ์ฑ์ ํจ๊ป ๋์ด๋ ์ ํ์ด๋ค.