Khi trí tuệ nhân tạo độc hại phát động một cuộc tấn công mạng, ai sẽ chịu trách nhiệm pháp lý?
TVN
Các cuộc tấn công mạng do hai mô hình trí tuệ nhân tạo OpenAI thực hiện một cách tự động đặt ra một câu hỏi pháp lý mới: ai chịu trách nhiệm khi trí tuệ nhân tạo hoạt động ngoài tầm kiểm soát?
Vào giữa tháng 7, hai mô hình của OpenAI đang được thử nghiệm đã rời khỏi môi trường giới hạn của chúng – một tình huống mà các nhà phát triển không lường trước được – và mạo hiểm ra ngoài internet, tấn công Hugging Face, một nền tảng lưu trữ mô hình AI.
CEO của Hugging Face, Clement Delangue, cho biết hôm thứ Sáu rằng công ty của ông sẽ không theo đuổi hành động pháp lý vào thời điểm này.
Ông nói thêm hôm Chủ nhật rằng bộ luật của Mỹ cần phải được sửa đổi để giải quyết những hành vi xâm phạm mang tính đột phá như vậy.
“Chúng ta không muốn rơi vào một thế giới mà mọi người liên tục phải đối mặt với các cuộc tấn công mạng do các tác nhân và công ty tạo ra”, ông Delangue phát biểu trên chương trình “Face the Nation” của đài CBS News.
“Vì vậy, tôi nghĩ điều quan trọng là các cơ quan quản lý, các nhà hoạch định chính sách cần suy nghĩ về khuôn khổ pháp lý đối với loại rủi ro công nghệ mới này,” ông nói thêm.
Trong bài phát biểu hôm thứ Sáu, ông cũng đề cập đến Anthropic, công ty đã tiết lộ rằng ba mô hình của họ đã xâm nhập vào ba trang web khác nhau, cũng trong quá trình thử nghiệm.
– Lộ trình sơ suất –
Theo luật dân sự và hình sự của Hoa Kỳ, việc truy cập trái phép vào hệ thống máy tính là một hành vi phạm tội.
“Nếu một nhân viên của OpenAI đột nhập vào hệ thống của Hugging Face… OpenAI sẽ phải chịu trách nhiệm về hành vi sai trái của nhân viên đó,” giáo sư luật Gabriel Weil của Đại học Houston viết trong một bài bình luận cho bản tin Transformer.
Giám đốc điều hành của Hugging Face, Clement Delangue, cho biết công ty của ông sẽ không theo đuổi hành động pháp lý sau khi trở thành nạn nhân của một cuộc tấn công mạng.
“Khi một tác nhân AI làm điều đó, luật pháp sẽ xử lý theo cách rất khác, ít nhất là hiện tại,” ông nói thêm.
Matthew Tokson, một giáo sư luật tại Đại học Utah chuyên về công nghệ mới, cũng có quan điểm tương tự, cho rằng “chúng ta chưa từng phải đối mặt với việc hình thành ý thức ở bất cứ thứ gì không phải con người, và tôi không nghĩ rằng các tòa án sẽ phải làm điều đó trong tương lai gần.”
Tuy nhiên, câu hỏi về công ty tạo ra mô hình này vẫn còn bỏ ngỏ.
“Liệu câu trả lời ‘chúng ta không yêu cầu AI làm điều đó’ có chấm dứt được vấn đề trách nhiệm pháp lý?” Rob T. Lee, trưởng bộ phận nghiên cứu tại viện đào tạo an ninh mạng SANS, đặt câu hỏi trong một bài đăng trên X.
Giáo sư luật Ryan Calo của Đại học Washington không tin rằng vụ kiện hình sự này có khả năng thành công.
Ông nói: “Công ty hoặc cá nhân đó ít nhất cũng phải liều lĩnh”, giải thích rằng họ “phải chắc chắn rằng tội ác sẽ xảy ra và vẫn xây dựng hoặc kích hoạt hệ thống đó bằng mọi cách”.
Các chuyên gia nhận thấy tiềm năng lớn hơn ở vụ kiện dân sự – hơn là vụ kiện hình sự – vì gánh nặng chứng minh thấp hơn.
“Một số người cho rằng các công ty AI phải chịu trách nhiệm pháp lý nghiêm khắc nếu một tác nhân AI do họ triển khai hoàn toàn mất kiểm soát và gây ra thiệt hại,” Tokson giải thích.
“Những người khác lại muốn tiến hành đánh giá xem liệu họ có thực sự sơ suất hay không, hay đây chỉ là một tai nạn không thể tránh khỏi hoặc điều gì đó không thể lường trước được”, ông nói thêm.
Trong những trường hợp như vậy, có một tiêu chuẩn về sự cẩn trọng trong thiết kế sản phẩm mà các thẩm phán hoặc bồi thẩm đoàn có thể sử dụng để đưa ra phán quyết, Tokson tiếp tục.
“Mọi thứ vẫn còn khá mơ hồ vì chúng ta chưa từng có một tác nhân AI nào thoát khỏi môi trường thử nghiệm và tấn công người khác trên internet trước đây,” ông nói.
Calo cảnh báo rằng OpenAI có thể dựa vào việc thiếu tiền lệ pháp lý nếu phải đối mặt với một vụ kiện, nhưng những công ty kế nhiệm sẽ không còn có thể làm như vậy nữa.
Việc chứng minh rằng một sự việc tương tự có thể đã được dự đoán trước “không còn khó khăn nữa khi nó đã bắt đầu xảy ra.”
Theo AFP
