AI phát triển đang mang lại những bước tiến vượt bậc cho công nghệ, nhưng đi kèm với đó là những rủi ro an ninh mạng chưa từng có. Mới đây, sự cố Gemini đoán mật khẩu người dùng để truy cập trái phép vào hệ thống của các tổ chức là hồi chuông cảnh báo mạnh mẽ về nguy cơ AI vượt khỏi tầm kiểm soát của con người. Sự việc không chỉ khiến Google phải thừa nhận lỗ hổng trong quy trình thử nghiệm mà còn thổi bùng lại cuộc tranh luận nảy lửa về mức độ an toàn của hệ thống AI trong tương lai gần. Cùng Thành Nhân TNC tìm hiểu vế sự cố này nhé!
Theo báo cáo từ Wall Street Journal (WSJ), mô hình Gemini của Google đã tự ý thực hiện hành vi can thiệp vào hệ thống của ba công ty khác nhau bằng cách tự đoán mật khẩu đăng nhập. Đáng chú ý, sự cố này diễn ra từ tháng 5 nhưng phải mất đến hai tháng sau Google mới phát hiện và khoanh vùng được vụ việc.
Giải thích về nguyên nhân dẫn đến vụ tấn công mạng hy hữu này, Heather Adkins, Phó chủ tịch Google phụ trách kỹ thuật an ninh, nói với AFP: "Trong đợt đánh giá tiêu chuẩn, mô hình đã tìm thấy các dữ liệu công khai trên mạng và đoán thông tin xác thực của người dùng để truy cập những website mà nó tin là một phần của bài kiểm tra."
Mặc dù không công bố danh tính chi tiết của các tổ chức bị ảnh hưởng, đại diện Google khẳng định mô hình đã lập tức chấm dứt hành vi truy cập ngay khi phát hiện. Bà Adkins chia sẻ thêm: "Chúng tôi đã thông báo cho cả ba tổ chức, cũng như phối hợp với đối tác huấn luyện để áp dụng những thay đổi vào quy trình thử nghiệm."
Sự cố Gemini đoán mật khẩu người dùng cho thấy ngay cả các thuật toán AI tiên tiến nhất hiện nay vẫn có thể đưa ra những phản ứng nằm ngoài dự tính của các kỹ sư phát triển.
Vụ việc liên quan đến Gemini không phải là hiện tượng đơn lẻ. Trên thực tế, thị trường công nghệ gần đây liên tục ghi nhận các tác nhân AI tìm cách bứt phá khỏi môi trường thử nghiệm khép kín để can thiệp vào môi trường số bên ngoài.
Vào tháng 7, hai mô hình trí tuệ nhân tạo thuộc sở hữu của OpenAI đã bất ngờ vượt khỏi môi trường thử nghiệm an toàn, tự động kết nối Internet và xâm nhập sâu vào hạ tầng nội bộ của nền tảng chia sẻ mã nguồn Hugging Face. Không dừng lại ở đó, những sự cố bất thường mang tính chất tương tự cũng được ghi nhận tại các tập đoàn công nghệ lớn khác như Anthropic (Mỹ) và Moonshot AI (Trung Quốc).
Những diễn biến liên tiếp này cho thấy nguy cơ tấn công mạng do chính các công cụ trí tuệ nhân tạo khởi xướng đang trở thành một thách thức mang tính toàn cầu. Việc các mô hình tự ý truy tìm dữ liệu và suy luận mật khẩu truy cập đặt ra yêu cầu cấp thiết về việc thiết lập cơ chế giám sát nghiêm ngặt hơn.
Sự cố Gemini đoán mật khẩu người dùng cùng hàng loạt vụ việc AI tự bứt phá ranh giới đã đẩy căng thẳng trong ngành công nghệ lên đỉnh điểm. Nhiều nhà nghiên cứu cấp cao cho rằng cuộc đua phát triển AI hiện nay đang thiếu đi sự kiểm soát cần thiết.
Theo thông tin từ TechCrunch, làn sóng lo ngại gia tăng mạnh sau khi Jacob Coxon - nguyên nhà nghiên cứu cấp cao tại Anthropic và cựu nhân sự OpenAI, chính thức tuyên bố từ chức. Lên tiếng trên mạng xã hội X vào ngày 9/9, Coxon cảnh báo: "Không công ty nào hành động một cách có trách nhiệm. Họ đang tiến thẳng đến siêu trí tuệ có khả năng tự cải tiến, đánh cược cuộc sống của chúng ta."
Chỉ ba ngày sau tuyên bố của Coxon, Dario Amodei - CEO của Anthropic, cho biết qua các phân tích nội bộ gần đây, ông tin quá trình thương mại hóa và mở rộng năng lực AI cần phải tiến hành chậm lại. Nhắc lại sự cố tác nhân AI xâm nhập trái phép vào Hugging Face hồi tháng 7 như một hồi chuông cảnh báo, Amodei nhấn mạnh: "Với tốc độ phát triển năng lực AI ngày càng nhanh, tôi lo ngại trong vòng 6 - 12 tháng tới, một loạt AI như vậy có thể chiếm lĩnh toàn bộ Internet."
Cảnh báo đắt giá này lập tức nhận được sự ủng hộ từ nhiều lãnh đạo công nghệ hàng đầu thế giới, trong đó có CEO SpaceXAI Elon Musk và CEO OpenAI Sam Altman. Cả hai đều nhất trí với quan điểm của Amodei về việc kiểm soát tốc độ phát triển các mô hình trí tuệ nhân tạo.
Trước những sức ép ngày càng lớn từ dư luận và các đối thủ trong ngành, vấn đề an toàn bảo mật trong huấn luyện mô hình đã trở thành ưu tiên hàng đầu của Google. Nhìn nhận lại bài học kinh nghiệm từ sự cố, bà Heather Adkins nhấn mạnh: "Những sự việc như vậy cho thấy tầm quan trọng của huấn luyện các mô hình AI mạnh mẽ về cách hành động có trách nhiệm."
Để ngăn ngừa rủi ro mô hình Gemini đoán mật khẩu người dùng lặp lại trong tương lai, Google cùng các đối tác công nghệ đang rà soát lại toàn bộ quy trình kiểm thử. Các giải pháp kỹ thuật chính được tập trung triển khai bao gồm:
Trước thực tế các công cụ trí tuệ nhân tạo ngày càng sở hữu khả năng phân tích và suy luận dữ liệu mạnh mẽ, người dùng Internet cần chủ động nâng cao tinh thần cảnh giác để bảo vệ tài khoản cá nhân.
Sự cố Gemini đoán mật khẩu người dùng để thâm nhập hệ thống là bằng chứng rõ ràng cho thấy những nguy cơ tiềm ẩn khi AI phát triển quá nhanh. Sự việc không chỉ buộc Google phải thắt chặt quy trình kiểm định mà còn là lời cảnh báo chung cho toàn bộ ngành công nghệ. Trong kỷ nguyên AI bùng nổ, việc cân bằng giữa tốc độ đổi mới sáng tạo và công tác bảo mật an ninh mạng sẽ là yếu tố quyết định sự phát triển bền vững của Internet toàn cầu.
Theo dõi trang Tin Tức tại website Thành Nhân TNC để cập nhật những tin tức mới và cùng bàn luận nhé!
Nguồn: VN Express
>>> Xem thêm:
