Điều gì sẽ xảy ra nếucác mô hình AI tiên tiến rơi vào tay kẻ xấu?

Chính quyền Biden sẵn sàng mở ra một mặt trận mới trong nỗ lực bảo vệ AI của Hoa Kỳ khỏi Trung Quốc và Nga với các kế hoạch sơ bộ nhằm đặt các rào chắn xung quanh các mô hình AI tiên tiến nhất, Reuters đưa tin hôm 8/5.

Các nhà nghiên cứu của chính phủ và khu vực tư nhân lo ngại đối thủ của Mỹ có thể sử dụng các mô hình, khai thác lượng lớn văn bản và hình ảnh để tóm tắt thông tin và tạo ra nội dung, để tiến hành các cuộc tấn công mạng mạnh mẽ hoặc tậm chí tạo ra vũ khí sinh học mạnh mẽ.

Thay đổi hình ảnh và thông tin xuyên tạc

Thay đổi hình ảnh – các video thực tế nhưng bịa đặt được tạo bởi thuật toán AI – đang xuất hiện trên mạng xã hội, làm mờ đi sự thật và hư cấu trong thế giới phân cực của chính trị Hoa Kỳ.

Mặc dù các phương tiện truyền thông tổng hợp như vậy đã xuất hiện được vài năm nhưng nó đã được tăng cường trong năm qua bởi một loạt công cụ AI mới như Midjourney.

Các nhà nghiên cứu cho biết trong một phúc trình hồi tháng 3 rằng các công cụ tạo hình ảnh được hỗ trợ bởi trí tuệ nhân tạo của các công ty bao gồm OpenAI và Microsoft, có thể được sử dụng để tạo ra những bức ảnh có thể quảng bá thông tin xuyên tạc liên quan đến bầu cử hoặc bỏ phiếu, mặc dù mỗi công ty đều có chính sách chống lại việc tạo nội dung xuyên tạc.

Một số chiến dịch đưa thông tin xuyên tạc chỉ đơn giản khai thác khả năng của AI để bắt chước các bài báo có thật như một phương tiện phổ biến thông tin xuyên tạc.

Mặc dù các nền tảng truyền thông xã hội lớn như Facebook, Twitter và YouTube đã nỗ lực cấm và xóa các thay đổi hình ảnh, nhưng hiệu quả của chúng trong việc kiểm soát những nội dung đó lại khác nhau.

Ví dụ, năm ngoái, một trang tin tức do chính phủ Trung Quốc kiểm soát đã dùng AI thúc đẩy một tuyên bố sai sự thật được lan truyền trước đó rằng Hoa Kỳ đang điều hành một phòng thí nghiệm ở Kazakhstan để tạo ra vũ khí sinh học nhằm mục đích chống lại Trung Quốc, Bộ An ninh Nội địa (DHS) cho biết trong đánh giá năm 2024.

Cố vấn An ninh Quốc gia Jake Sullivan, phát biểu tại một sự kiện AI ở Washington hôm 8/5, cho biết vấn đề này không có giải pháp dễ dàng vì nó kết hợp năng lực của AI với “ý định của các chủ thể nhà nước, phi nhà nước, sử dụng thông tin xuyên tạc trên quy mô lớn, để phá vỡ dân chủ, thúc đẩy tuyên truyền, định hình nhận thức trên thế giới.”

Ông nói: “Hiện tại, hàng tấn công đang đánh bại hàng phòng ngự.”

Vũ khí sinh học

Cộng đồng tình báo Mỹ, các tổ chức nghiên cứu và học giả ngày càng lo ngại về những rủi ro do các tác nhân xấu nước ngoài tiếp cận với các khả năng AI tiên tiến gây ra. Các nhà nghiên cứu tại công ty Griffin Scientific và Rand Corporation lưu ý rằng các mô hình AI tiên tiến có thể cung cấp thông tin giúp tạo ra vũ khí sinh học.

Griffin đã nghiên cứu cách các mô hình ngôn ngữ lớn (LLM) – các chương trình máy tính lấy từ lượng lớn văn bản để tạo ra phản hồi cho các truy vấn – có thể bị các tác nhân thù địch sử dụng để gây hại trong lĩnh vực khoa học đời sống và nhận thấy chúng “có thể cung cấp thông tin có thể hỗ trợ một tác nhân độc hại trong việc tạo ra vũ khí sinh học bằng cách cung cấp thông tin hữu ích, chính xác và chi tiết qua từng bước trong lộ trình này.”

Ví dụ, họ phát hiện ra rằng LLM có thể cung cấp kiến thức ở cấp độ sau tiến sĩ để giải quyết các vấn đề khi làm việc với một loại vi rút có khả năng gây đại dịch.

Nghiên cứu của Rand cho thấy LLM có thể giúp lập kế hoạch và thực hiện một cuộc tấn công sinh học. Ví dụ, họ nhận thấy LLM có thể đề xuất các phương pháp phân phối khí dung cho độc tố botulinum.

Vũ khí mạng

Trong đánh giá về mối đe dọa nội địa năm 2024, DHS cho biết các tác nhân mạng có thể sẽ sử dụng AI để “phát triển các công cụ mới” nhằm “tạo điều kiện cho các cuộc tấn công mạng quy mô lớn hơn, nhanh hơn, hiệu quả hơn và có tính né tránh cao hơn” nhắm vào cơ sở hạ tầng quan trọng bao gồm đường ống dẫn dầu và đường sắt.

DHS cho biết, Trung Quốc và các đối thủ khác đang phát triển các công nghệ AI có thể làm suy yếu hệ thống phòng thủ mạng của Hoa Kỳ, bao gồm các chương trình AI hỗ trợ các cuộc tấn công bằng phần mềm độc hại.

Microsoft cho biết trong một phúc trình hồi tháng 2 rằng họ đã theo dõi các nhóm tin tặc liên kết với chính phủ Trung Quốc và Triều Tiên cũng như tình báo quân sự Nga và Lực lượng Vệ binh Cách mạng Iran, trong lúc các nhóm này tìm cách hoàn thiện các chiến dịch tin tặc bằng cách sử dụng các mô hình ngôn ngữ lớn.

Theo VOA