Lo ngại AI vượt qua sự kiểm soát, Tổ chức Anthropic kêu gọi tạm dừng sự phát triển
Công ty trí tuệ nhân tạo Anthropic hôm thứ Năm đã đề xuất tạm dừng toàn cầu việc xây dựng các hệ thống AI mạnh nhất vì các mô hình mới nhất bắt đầu cho thấy dấu hiệu chúng có thể vượt khỏi sự kiểm soát của con người.
Công ty có trụ sở tại San Francisco, nơi sản xuất dòng mô hình AI Claude, cho biết trong một báo cáo rằng sự chậm lại trên toàn thế giới trong phát triển AI tiên tiến “có thể là một điều tốt” – nhưng cảnh báo rằng nếu chỉ một công ty dừng lại, các đối thủ sẽ dễ dàng vượt lên trước.
“Chúng tôi tin rằng sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm dừng quá trình phát triển AI tiên tiến để cho phép các cấu trúc xã hội và nghiên cứu điều chỉnh theo kịp sự tiến bộ của công nghệ”, tuyên bố cho biết.
Theo Anthropic, để thực sự tạm dừng hoạt động, cần có sự đồng thuận của nhiều công ty AI lớn ở nhiều quốc gia – đáng chú ý nhất là Mỹ và Trung Quốc – cùng lúc ngừng hoạt động, theo các quy tắc mà mọi người đều có thể kiểm chứng.
“Nếu không có cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ phải đưa ra những quyết định khó khăn về an toàn trong bối cảnh cạnh tranh và áp lực địa chính trị”, báo cáo cho biết.
Công ty đã phải đối mặt với sự phản đối từ các đối thủ trong ngành – và các quan chức Nhà Trắng – những người cho rằng việc tập trung vào các kịch bản xấu nhất đã phóng đại rủi ro và là một chiến lược nhằm kìm hãm các đối thủ dưới vỏ bọc lo ngại về an toàn.
Tuy nhiên, Nhà Trắng đã thừa nhận sức mạnh của mô hình Mythos của công ty – mô hình này chưa được cung cấp cho công chúng do khả năng bảo mật mạng của nó và hiện chỉ được triển khai cho một số ít tổ chức đã được kiểm duyệt.
Đề xuất này sẽ gặp nhiều khó khăn ở Washington và Thung lũng Silicon, nơi các quan chức Mỹ và các giám đốc điều hành công nghệ đã nhiều lần lập luận rằng bất kỳ sự chậm lại nào trong phát triển trí tuệ nhân tạo đều có nguy cơ trao cho Trung Quốc lợi thế chiến lược quyết định trong cuộc đua công nghệ mà nhiều người coi là mang tính quyết định của thế kỷ này.
Tuy nhiên, Tổng thống Mỹ Donald Trump cho biết ông đã thảo luận về khả năng hợp tác với Trung Quốc về các vấn đề an toàn trí tuệ nhân tạo trong chuyến thăm Bắc Kinh gần đây.
Ông Trump cũng đã ký một sắc lệnh hành chính trong tuần này cho phép chính phủ có 30 ngày để tiến hành xem xét sơ bộ các mô hình trí tuệ nhân tạo mạnh nhất của Mỹ trước khi chúng được đưa vào sử dụng.
– ‘Thu hẹp vai trò của con người’ –
Anthropic đã so sánh vấn đề này với các hiệp ước kiểm soát vũ khí hạt nhân – nhưng cho rằng việc kiểm soát nó sẽ còn khó khăn hơn nhiều, vì việc huấn luyện AI dễ che giấu hơn nhiều so với một hầm chứa tên lửa, và sự cám dỗ để âm thầm tiếp tục sẽ rất lớn.
Công ty cho biết họ dự định sẽ tập hợp các quan chức chính phủ, nhà khoa học, nhóm vận động và các công ty AI cạnh tranh trong những tháng tới để tìm hiểu cách thức hoạt động của hệ thống như vậy.
Lời kêu gọi phối hợp này được đưa ra cùng với dữ liệu nội bộ cho thấy trí tuệ nhân tạo (AI) đang đẩy nhanh đáng kể sự phát triển của chính AI, theo Anthropic cho biết.
Sự tăng tốc đó tạo ra một vòng phản hồi mà Anthropic cảnh báo cuối cùng có thể dẫn đến điều mà các nhà nghiên cứu gọi là “sự tự cải thiện mang tính đệ quy”.
Đó là ý tưởng về một hệ thống trí tuệ nhân tạo có khả năng tự học để trở nên thông minh hơn, mà không cần nhiều sự trợ giúp của con người.
“Chúng ta vẫn chưa đạt được điều đó, và việc tự cải tiến liên tục không phải là điều tất yếu,” báo cáo cho biết, đồng thời nói thêm rằng điều đó có thể đến sớm hơn hầu hết các chính phủ và tổ chức sẵn sàng đón nhận.
“Bằng chứng cho thấy vai trò của con người đang bị thu hẹp dần ở mỗi giai đoạn trong quá trình phát triển trí tuệ nhân tạo”, công ty cho biết.
