16 AI Agent tự hợp tác tạo ra một trình biên dịch C chỉ sau 2 tuần làm việc

Thứ hai, compiler này chưa hề hoàn hảo. Nó vẫn phải gọi GCC cho một số bước boot 16-bit x86. Assembler và linker còn bug. Code sinh ra kém tối ưu hơn cả GCC khi chạy ở chế độ không tối ưu. Chất lượng Rust code thì ở mức “chạy được”, nhưng còn xa mới đạt đến trình độ của một lập trình viên Rust giỏi.

Quan trọng hơn, khi codebase phình to đến khoảng 100.000 dòng, các agent bắt đầu gặp một vấn đề quen thuộc với con người: mất tính nhất quán tổng thể. Việc sửa bug hay thêm tính năng thường làm hỏng chỗ khác. Không agent nào còn “hiểu” toàn bộ hệ thống. Đây dường như là một trần thực tế cho lập trình agentic hiện nay.

Và còn một điểm dễ gây hiểu lầm: gọi đây là một dự án “tự động” hay “clean-room” là chưa chính xác. Dù các agent không truy cập Internet, bản thân mô hình đã được huấn luyện trên khối lượng mã nguồn công khai khổng lồ, gần như chắc chắn bao gồm cả GCC và Clang. Quan trọng hơn, khối lượng công việc con người bỏ ra để dựng môi trường cho AI là cực lớn.

Carlini đã phải thiết kế test harness riêng để tránh việc output quá dài làm “ô nhiễm” context của model. Ông tạo chế độ test nhanh vì Claude không có khái niệm thời gian và có thể chạy test hàng giờ mà không tiến triển. Khi tất cả agent cùng mắc kẹt ở một bug kernel, ông dùng GCC làm “oracle”, chia file cho các agent debug song song. Nói cách khác, AI không được babysit từng dòng code, nhưng toàn bộ sân chơi mà nó hoạt động được thiết kế rất kỹ cho điểm mạnh và điểm yếu của mô hình.

Và điều này có nghĩa như thế nào?

Thí nghiệm này không chứng minh rằng AI đã “thay thế lập trình viên”. Nhưng nó cho thấy một điều rất quan trọng: vai trò của con người đang dịch chuyển. Giá trị không còn nằm chủ yếu ở việc gõ code, mà ở việc thiết kế hệ thống kiểm chứng, phản hồi, và giới hạn để AI không “giải quyết nhầm bài toán”.