Anthropic kêu gọi tạm dừng phát triển AI toàn cầu vì lo ngại mất kiểm soát
Công ty trí tuệ nhân tạo Anthropic ngày 4/6 đã đề xuất thế giới xem xét tạm dừng phát triển những hệ thống AI mạnh nhất, trong bối cảnh các mô hình mới nhất bắt đầu xuất hiện những dấu hiệu cho thấy chúng có thể vượt khỏi khả năng kiểm soát của con người.
Trong một báo cáo công bố ngày 4/6, công ty có trụ sở tại San Francisco, Mỹ, đơn vị phát triển dòng mô hình AI Claude, cho rằng việc làm chậm tốc độ phát triển AI tiên tiến trên phạm vi toàn cầu "có thể là điều tốt cho thế giới". Tuy nhiên, Anthropic cũng cảnh báo rằng nếu chỉ một công ty đơn lẻ dừng lại, các đối thủ khác sẽ nhanh chóng vượt lên trong cuộc đua công nghệ.
Anthropic nhấn mạnh: "Chúng tôi tin rằng sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm thời tạm dừng quá trình phát triển AI tiên tiến, nhằm tạo điều kiện để các cơ chế quản lý xã hội và các nghiên cứu về căn chỉnh AI theo kịp tốc độ phát triển của công nghệ".
Theo công ty này, để một lệnh tạm dừng thực sự hiệu quả, nhiều doanh nghiệp AI lớn ở nhiều quốc gia khác nhau, đặc biệt là Mỹ và Trung Quốc, cần đồng thời tham gia và tuân thủ các quy định có thể được kiểm chứng độc lập.
Giám đốc điều hành Anthropic Dario Amodei. Ảnh: CC
Anthropic cho biết: "Nếu không có một cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ phải đưa ra những quyết định khó khăn về an toàn trong bối cảnh áp lực cạnh tranh và địa chính trị ngày càng gia tăng".
Anthropic so sánh thách thức quản lý AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng cho rằng vấn đề này thậm chí còn phức tạp hơn. Theo công ty, việc huấn luyện AI dễ bị che giấu hơn nhiều so với việc xây dựng các cơ sở tên lửa.
Công ty cho biết sẽ tập hợp các quan chức chính phủ, nhà khoa học, tổ chức xã hội và cả những đối thủ trong ngành AI trong những tháng tới để thảo luận về khả năng xây dựng một cơ chế giám sát chung.
Báo cáo cũng cho thấy AI hiện đang góp phần đẩy nhanh quá trình phát triển chính AI. Theo Anthropic, điều này có thể tạo ra một vòng lặp tăng tốc. Khái niệm này mô tả một hệ thống AI có khả năng tự học và tự nâng cao năng lực của mình mà không cần nhiều sự can thiệp từ con người.
Anthropic nhận định "vẫn chưa đạt đến giai đoạn đó" nhưng công ty cảnh báo kịch bản này có thể đến sớm hơn khả năng chuẩn bị của nhiều chính phủ và tổ chức trên thế giới.
Đề xuất của Anthropic không nhận được sự đồng thuận hoàn toàn trong ngành công nghệ. Một số doanh nghiệp AI khác cùng các quan chức tại Nhà Trắng cho rằng công ty này đang phóng đại những kịch bản xấu nhất, đồng thời sử dụng các lo ngại về an toàn như một cách để làm chậm bước tiến của đối thủ.
Dù vậy, Nhà Trắng cũng thừa nhận sức mạnh của mô hình AI Mythos do Anthropic phát triển. Hiện mô hình này chưa được cung cấp rộng rãi cho công chúng vì sở hữu các năng lực liên quan đến an ninh mạng và chỉ được triển khai cho một số tổ chức đã được thẩm định.
Đề xuất tạm dừng phát triển AI được đánh giá sẽ gặp nhiều trở ngại tại Washington và Thung lũng Silicon. Trong nhiều năm qua, giới chức Mỹ và các lãnh đạo công nghệ liên tục cảnh báo rằng bất kỳ sự chậm lại nào trong cuộc đua AI cũng có thể tạo lợi thế chiến lược cho Trung Quốc trong lĩnh vực được xem là công nghệ quyết định của thế kỷ XXI.
Tuy nhiên, Tổng thống Mỹ Donald Trump cho biết ông đã thảo luận với Trung Quốc về khả năng hợp tác trong các vấn đề an toàn AI trong chuyến thăm Bắc Kinh gần đây.
Ông Trump cũng vừa ký một sắc lệnh hành pháp cho phép chính phủ Mỹ có 30 ngày để tiến hành đánh giá sơ bộ những mô hình AI mạnh nhất trước khi được đưa ra thị trường.
