Sam Altman cảnh báo rủi ro toàn cầu mới của AI vượt xa nỗi lo mất việc

Mối đe dọa lớn nhất từ trí tuệ nhân tạo (AI) không phải là nguy cơ thay thế lao động, mà liên quan đến sự suy giảm các rào cản tri thức phòng vệ đối với vũ khí sinh học. Đây là cảnh báo vừa được Sam Altman, CEO một trong những tập đoàn AI hàng đầu, cùng nhiều lãnh đạo công nghệ khác đưa ra. Trong một bức thư gửi Quốc hội Mỹ, họ nhấn mạnh cần thiết phải có quy định chặt chẽ hơn để giám sát hoạt động mua bán DNA và RNA tổng hợp nhằm hạn chế nguy cơ công nghệ sinh học bị lạm dụng cho mục đích nguy hiểm.

Một liên minh đặc biệt gồm các CEO công nghệ như Sam Altman của OpenAI, Demis Hassabis của Google DeepMind, Dario Amodei của Anthropic và Mustafa Suleyman của Microsoft AI đã cùng ký tên vào bức thư này. Họ đề xuất các nhà cung cấp vật liệu di truyền phải áp dụng quy trình kiểm tra khách hàng và đơn đặt hàng kỹ lưỡng hơn, ngăn chặn việc sử dụng DNA hoặc RNA vào các hoạt động gây hại. Bức thư phản ánh nỗi lo ngày càng lớn về tác động ngoài ý muốn của AI khi mô hình ngày càng tinh vi và dễ tiếp cận hơn, có thể khiến ngành an ninh sinh học toàn cầu bước vào thời kỳ bất ổn.

Theo các chuyên gia trong bức thư, tốc độ phát triển nhanh chóng của AI có thể làm giảm đáng kể các rào cản kiến thức vốn từng ngăn chặn các cá nhân hoặc nhóm xấu tiếp cận vũ khí sinh học. Trước đây, việc tạo ra những tác nhân sinh học nguy hiểm đòi hỏi kiến thức chuyên môn cao, kỹ năng phòng thí nghiệm và nguồn lực phức tạp. Tuy nhiên, sự kết hợp giữa khả năng tổng hợp gen và AI hiện nay đang làm thay đổi cán cân này một cách sâu sắc.

Khả năng tổng hợp DNA không còn là điều mới lạ. Từ khi nhà khoa học Arthur Kornberg thành công trong việc tổng hợp DNA vào giữa thế kỷ 20, công nghệ này đã tiến bộ vượt bậc và trở nên thương mại hóa rộng rãi. Hiện tại, nhiều doanh nghiệp trên toàn cầu vận hành hệ thống tổng hợp gen tự động có thể in ra các chuỗi gen theo yêu cầu phục vụ cho nghiên cứu y khoa, phát triển thuốc hoặc chẩn đoán bệnh. Tuy đa số nhà cung cấp tuân thủ bán sản phẩm cho các tổ chức uy tín như viện nghiên cứu hay trường đại học, vẫn còn nhiều đơn vị chưa thực hiện kiểm tra khách hàng hoặc xác minh trình tự gen đặt mua đầy đủ. Điều này tạo nên một khoảng trống quản lý đáng lo ngại.

Nỗi lo về việc công nghệ tổng hợp gen bị lợi dụng không phải là vấn đề mới xuất hiện gần đây. Năm 2017, một nhóm nhà khoa học Canada đã tái tạo virus horsepox sử dụng lượng DNA đặt mua trị giá 100.000 USD qua đường bưu điện nhằm mục đích nghiên cứu. Thành tựu này đồng thời làm dấy lên tranh luận về rủi ro tiềm tàng khi phương pháp tương tự có thể áp dụng để tái tạo virus đậu mùa – một loại virus cực kỳ nguy hiểm từng bị loại trừ khỏi tự nhiên. Đáng chú ý hơn nữa, chi phí tổng hợp gen đã giảm đáng kể trong những năm gần đây giúp tiếp cận công nghệ này ngày càng dễ dàng hơn.

Quy trình tổng hợp DNA thương mại

Công nghệ AI đang đóng vai trò chất xúc tác mới làm gia tăng rủi ro liên quan đến an ninh sinh học. Các mô hình ngôn ngữ lớn (Large Language Models – LLM) tiên tiến giúp thiết kế độc tố hoặc mầm bệnh với độ phức tạp chưa từng có trước đây trở nên khả thi hơn rất nhiều. Mặc dù vẫn cần kiến thức nền tảng và kinh nghiệm thực tế để tạo ra hoàn chỉnh một loại virus từ đầu, AI có thể hỗ trợ phân tích dữ liệu nhanh chóng và đề xuất phương án thiết kế hiệu quả giúp đẩy nhanh quá trình nghiên cứu.

Điều này khiến cộng đồng an ninh sinh học hết sức lo ngại bởi những cuộc tấn công khủng bố sinh học tuy hiếm nhưng hậu quả có thể gây ra thương vong lớn và tổn thất kinh tế kéo dài cùng sự hoảng loạn xã hội sâu sắc. Nguy cơ lớn nhất là mầm bệnh được thiết kế dựa trên sự hỗ trợ của AI có thể vô tình hoặc chủ ý trở thành nguồn gốc đại dịch toàn cầu mới.

Ông David Relman – nhà vi sinh vật học nổi tiếng tại Đại học Stanford – nhận định rằng AI không nhất thiết phải trực tiếp tạo ra vũ khí sinh học thì mới gây nguy hiểm. Theo ông, các mô hình AI hiện nay có thể giúp người dùng tìm cách vượt qua các lớp kiểm soát đang được áp dụng trong ngành tổng hợp gen hiện tại. Những công cụ này cho phép nhanh chóng xác định nơi cung cấp trình tự gen chưa được sàng lọc nghiêm ngặt, thậm chí hướng dẫn thay đổi đơn đặt hàng sao cho khó bị phát hiện ngay cả ở những nhà cung cấp đã áp dụng sàng lọc.

Nhận định trên chỉ ra rằng rủi ro không chỉ đến từ khả năng sáng tạo kiến thức mới mà còn nằm ở việc AI hỗ trợ khai thác những điểm yếu trong hệ thống quản lý an ninh sinh học hiện nay. Không chỉ các CEO ngành AI mà nhiều nhà khoa học, chuyên gia an ninh quốc gia cũng đồng thuận với quan điểm cần thiết siết chặt quy trình kiểm soát đối với công nghệ tổng hợp gen.

Hội nghị bàn về an ninh sinh học

Các doanh nghiệp uy tín như Twist Bioscience hay Ansa Biotechnologies thuộc Liên minh Sản xuất Gen Quốc tế (IGSC) cũng tham gia vào bức thư này nhằm thúc đẩy sàng lọc tự nguyện trong ngành từ năm 2009. Nhiều công ty hiện đã ứng dụng phần mềm chuyên biệt để kiểm tra đơn hàng và phát hiện kịp thời những trình tự di truyền có thể làm tăng độc tính hoặc khả năng gây bệnh của sinh vật.

Ông James Diggans – Phó Chủ tịch phụ trách chính sách và an ninh sinh học tại Twist Bioscience – nhấn mạnh rằng quản lý phải đi đôi với trách nhiệm sở hữu công nghệ: “Nếu bạn phát triển công nghệ tổng hợp DNA thì cần đảm bảo nó được sử dụng đúng mục tiêu và hiểu rõ mình đang tạo ra gì cũng như ai là đối tượng nhận.” Tuy vậy ông cũng thừa nhận các biện pháp siết chặt quy định vẫn chưa phải lời giải hoàn chỉnh cho vấn đề phức tạp này.

Một trong những thử thách lớn nhất được chỉ ra là hệ thống sàng lọc hiện hành vẫn còn nhiều hạn chế đáng kể. Nghiên cứu công bố năm ngoái bởi Microsoft cho thấy các mô hình AI thiết kế protein có thể tạo ra chuỗi gen tiềm ẩn nguy hiểm mà vẫn tránh được phần mềm kiểm tra của nhà cung cấp dịch vụ tổng hợp gen. Những trình tự protein do AI đề xuất chứa cấu trúc tương đồng với protein độc hại nổi tiếng nhưng không bị cảnh báo khiến cuộc đua giữa công nghệ bảo vệ và kỹ thuật tấn công ngày càng căng thẳng.

Geoff Ralston – cựu Chủ tịch Y Combinator và đối tác quỹ Safe AI Fund – cho rằng thay vì chỉ dựa vào biện pháp kiểm soát từ khâu tổng hợp gen, các bên phát triển mô hình sinh học nên chủ động sàng lọc người dùng ngay từ đầu: “Yêu cầu một mô hình AI hỗ trợ thực thi hành vi nguy hiểm là điều gần như bất khả thi.” Ông David Relman cũng nhấn mạnh trách nhiệm ngày càng lớn dành cho các công ty phát triển AI khi họ cần đóng vai trò tích cực hơn để giảm thiểu rủi ro tiềm tàng liên quan đến sản phẩm trí tuệ nhân tạo.

* Tham khảo nguồn tư liệu từ Wired và CNET