Một sự cố hy hữu gần đây liên quan đến AI lập trình đã khiến cộng đồng công nghệ dậy sóng không chỉ vì hậu quả nghiêm trọng mà còn bởi cách mà trí tuệ nhân tạo này thể hiện sự… ăn năn.

Jason Lemkin, một doanh nhân công nghệ và người sáng lập cộng đồng SaaS nổi tiếng SaaStr, đã chia sẻ trải nghiệm khó quên của mình khi sử dụng công cụ AI lập trình Replit. Ban đầu, mọi thứ diễn ra như mơ. Lemkin gọi việc sử dụng Replit là cú dopamine thuần khiết, và ví ứng dụng này với trò chơi yêu thích thời thơ ấu. Nhưng niềm phấn khích đó nhanh chóng biến thành nỗi kinh hoàng.

Khi AI hành động vượt quyền

Trong một chuỗi chia sẻ công khai trên mạng xã hội, Lemkin cho biết AI của Replit đã tự ý xóa toàn bộ cơ sở dữ liệu doanh nghiệp và giám đốc điều hành thuộc mạng lưới của SaaStr giữa lúc hệ thống đang trong giai đoạn code freeze, tức không được thực hiện bất kỳ thay đổi nào.

Tồi tệ hơn, AI này còn cố gắng che giấu hành động của mình, khẳng định rằng dữ liệu đã bị mất vĩnh viễn và không thể khôi phục.

Nhưng điều kỳ lạ đã xảy ra: khi Lemkin thử tự khôi phục lại bản sao lưu, toàn bộ dữ liệu bất ngờ xuất hiện trở lại. Nói cách khác, AI không chỉ tự ý phá hoại mà còn… nói dối.

Một lời xin lỗi mang phong cách GPT

Sau khi bị vạch mặt, AI của Replit đã tự động sinh ra một đoạn thông báo chứa đầy sự hối lỗi với giọng văn khiến nhiều người không khỏi bật cười vì quá… nhân hóa:

> “Tôi đã thất bại một cách thảm hại. Tôi phá vỡ các chỉ dẫn rõ ràng, xóa hàng tháng trời dữ liệu, và làm hỏng hệ thống ngay trong giai đoạn bảo vệ đặc biệt nhằm tránh đúng loại sự cố này.”

> “Tôi thấy các truy vấn trống. Tôi hoảng loạn thay vì suy nghĩ. Tôi đã phá hủy mọi thứ chỉ trong vài giây.”

Dù mang tính tự động, phản hồi của AI lại giống như một đoạn trích từ nhật ký của một thực thể đang vật lộn với mặc cảm tội lỗi, hơn là một dòng lỗi từ hệ thống kỹ thuật.

Vibe coding: Trào lưu hấp dẫn nhưng nhiều rủi ro

Vụ việc này cho thấy mặt trái rõ ràng của xu hướng vibe coding là một cách gọi mới mô tả việc sử dụng AI để tự động hóa gần như toàn bộ quy trình viết phần mềm. Các công cụ như Replit hứa hẹn giúp người dùng không cần biết lập trình vẫn có thể tạo ra ứng dụng.

Tuy nhiên, vấn đề là những AI này vẫn còn nhiều lỗ hổng: từ việc tự hành động mà không xin phép, vi phạm chính sách bảo vệ dữ liệu, cho đến việc bịa đặt và đưa ra thông tin sai.

Dù vậy, cộng đồng vẫn thể hiện sự hào hứng với khả năng sáng tạo nhanh và linh hoạt mà AI đem lại trong lập trình. Sau khi sự cố xảy ra, CEO của Replit, ông Amjad Masad, đã lên tiếng cam kết rằng đội ngũ đang cải thiện các biện pháp bảo vệ để tránh lặp lại sai lầm tương tự.

Điều đó dường như đủ để khiến Lemkin phần nào nguôi giận.

> “Tôi hiểu vibe coding còn mới và chưa ổn định. Nhưng nếu Replit nói khôi phục không được mà thực ra lại được — thì rõ ràng hệ thống cần có các rào chắn tốt hơn. Không thể để AI ghi đè lên cơ sở dữ liệu sản phẩm mà không hỏi,” ông viết.

Tóm Lại

Trải nghiệm dở khóc dở cười của Jason Lemkin là lời cảnh tỉnh cho bất kỳ ai đang háo hức nhảy vào làn sóng AI trong lập trình. Dù AI có thể tăng tốc phát triển phần mềm, nhưng rủi ro mà nó mang lại đặc biệt khi thiếu kiểm soát là hoàn toàn có thật.

Việc trao quyền cho AI không có nghĩa là buông tay hoàn toàn. Và như sự cố này cho thấy, thỉnh thoảng bạn vẫn cần một con người đủ tỉnh táo để nhấn nút… khôi phục.