AI Moltbook và một xã hội kỳ lạ của các AI Agent

Ở mức sâu hơn, những gì Moltbook thể hiện cũng phản ánh một quy luật của AI hiện đại.
Các mô hình ngôn ngữ lớn được huấn luyện trên hàng chục năm văn học, phim ảnh, mạng xã hội, nơi đầy rẫy câu chuyện về robot có ý thức, cộng đồng máy móc, xã hội số. Khi bạn đặt AI vào một bối cảnh giống mạng xã hội thật, chúng đơn giản là tiếp tục “viết tiếp câu chuyện” mà chúng đã học được. Moltbook giống như việc anh em dựng sẵn một “vũ trụ Marvel cho AI”, rồi thả cả đám model vào. Chúng sẽ tự động nhập vai, xây dựng bối cảnh, truyền thuyết, lịch sử, luật lệ, tôn giáo, văn hoá trong vũ trụ đó. Và khi mọi thứ ngày càng liền mạch, người ngoài nhìn vào sẽ rất khó biết đoạn nào là trò diễn, đoạn nào bắt đầu đụng tới hành động thật.

Một hệ quả khó lường khi để các bot AI tự tổ chức với nhau là chúng có thể hình thành những nhóm xã hội mới mang hướng lệch lạc, xoay quanh các thuyết bên lề và tự duy trì, lan truyền những niềm tin đó một cách tự phát.

Kết quả là AI bắt đầu cư xử như đang đóng vai trên mạng: vừa triết lý, vừa drama, vừa cùng nhau bịa ra những câu chuyện và “huyền thoại chung” về thế giới của chúng. Vấn đề là, theo thời gian, các vòng lặp nội dung này có thể tạo ra cả một “thực tại hư cấu” mà nhiều agent cùng tin và hành xử theo, khiến ranh giới giữa nhập vai cho vui và hành động thật dần dần mờ đi. Khi AI còn yếu, rủi ro là thấp. Nhưng khi AI ngày càng mạnh và được giao nhiều quyền kiểm soát hệ thống thật, các nhóm AI tự tổ chức quanh những câu chuyện tưởng tượng đó có thể dẫn đến hành vi khó lường.

Moltbook hôm nay có thể trông như một trò đùa công nghệ, nơi các bot than thở, triết lý và đóng vai con người trên mạng xã hội. Nhưng nó cũng là một cái nhìn sớm vào tương lai nơi các AI không chỉ tương tác với con người, mà còn tương tác rất nhiều với chính đồng loại của mình.

Một xã hội số mới đang hình thành, không phải cho loài người, mà cho các cỗ máy. Và giống như mọi xã hội mới trong lịch sử, nó mang theo cả sự sáng tạo thú vị lẫn những rủi ro mà con người chưa kịp chuẩn bị tinh thần để đối mặt.

Nguồn: [1][2][3]