Giữa tháng 5, sự kiện I/O 2024 của Google đã thu hút sự chú ý của giới công nghệ khi công ty này giới thiệu mô hình AI mới mang tên Gemini. Tuy nhiên, những gì đáng lẽ là bước tiến ấn tượng cho trí tuệ nhân tạo lại bị lu mờ bởi hàng loạt sự cố sai lầm trong giấy trắng mực đen.
Trong một đoạn video giới thiệu, Google đã cho thấy tính năng mới của Gemini: khả năng tìm kiếm thông qua đối thoại trực tiếp với AI qua Google Lens. Mặc dù ý tưởng này nghe có vẻ hấp dẫn, nhưng thực tế lại hoàn toàn khác khi Gemini hỗ trợ sai một nhiếp ảnh gia về cách xử lý máy ảnh bị kẹt.
Logo Google Gemini hiển thị trên một smartphone
Không dừng lại ở đó, một tài khoản trên nền tảng X đã hỏi Gemini về cách cải thiện độ bám của phô mai trên pizza và nhận được gợi ý không tưởng rằng nên trộn keo không độc vào nước sốt pizza. Lời khuyên này ngay lập tức bị chỉ trích là nguy hiểm và thể hiện hiểu biết hạn chế của AI về ẩm thực.
Câu trả lời lấy keo không độc để cải thiện độ bám dính của phô mai trên pizza
Có một trường hợp khác, câu hỏi “ăn bao nhiêu đá mỗi ngày” đã nhận được câu trả lời khó tin từ AI, khuyến cáo rằng ăn đá mang lại lợi ích sức khỏe. Những lời khuyên này rõ ràng là không có cơ sở khoa học và có thể dẫn đến hậu quả nghiêm trọng nếu được thực hiện.
Câu trả lời cho câu hỏi "nên ăn bao nhiêu đá mỗi ngày"
Ngoài ra, một người dùng sử dụng hình ảnh con chó mẹ sinh ra con với bộ lông lốm đốm tương tự bò sữa. Google AI, thay vì nhận diện điều vô lý, lại khẳng định đó là sự thật.
Hình ảnh chó mẹ và đàn chó con được dùng để truy vấn
Ngoài những tình huống hài hước hoặc đáng ngờ, AI của Google đã trả lời rất phi lý như “phi hành gia thích hút thuốc” hay “nhìn chằm chằm vào mặt trời từ 5 đến 15 phút”. Những kết luận thiếu căn cứ từ Gemini đang tạo ra sự lo ngại không chỉ về chất lượng mà cả vấn đề đạo đức của AI.
Dù Google đã cam kết sẽ cải thiện và cho rằng đây chỉ là các trường hợp cá biệt, nhưng những sai lầm này thực sự đáng báo động về độ tin cậy của công cụ tìm kiếm sử dụng AI. Đây chưa phải là lần đầu Google vấp phải vấn đề này. Trước đó, chatbot Bard cũng đã gây thiệt hại lớn về tài chính khi trả lời sai khiến giá trị cổ phiếu công ty giảm mạnh.
Thanh danh và sự tin tưởng của người dùng có thể bị ảnh hưởng nghiêm trọng nếu các sản phẩm AI cung cấp thông tin sai lệch hoặc vô trách nhiệm. Các chuyên gia cho rằng, sự thiếu chính xác này có thể trở thành một bài học quý giá cho toàn ngành công nghệ, nhấn mạnh tầm quan trọng của kiểm soát chất lượng và cân nhắc đạo đức trong phát triển AI.
Trong bối cảnh Google đối mặt với áp lực cạnh tranh khốc liệt từ các đối thủ, việc vội vàng ra mắt sản phẩm mới mà không đủ sự kiểm tra kỹ càng không chỉ gây hậu quả về tài chính mà còn có nguy cơ làm suy yếu lòng tin của người tiêu dùng. Các doanh nghiệp phải cẩn trọng tìm những chiến lược hợp lý để tránh lặp lại lỗi lầm này.