Những cỗ máy sát nhân robot lảng vảng trên đất liền, bầu trời và biển cả. Chúng hoàn toàn tự động, tìm kiếm và giao tranh với các robot đối thủ trên mọi lĩnh vực chiến tranh. Những người điều khiển chúng được chuyển xuống hậu phương, giám sát hành động từ xa trong khi các cuộc xung đột sử dụng máy móc để chiến đấu và giành chiến thắng.
Khác xa với khoa học viễn tưởng, đây là tầm nhìn của Chủ tịch Hội đồng Tham mưu trưởng Liên quân, Tướng Mark Milley.
Theo Tướng Milley, Hoa Kỳ đang ở trong giai đoạn khó khăn của một trong vô số cuộc cách mạng về các vấn đề quân sự đã kéo dài trong lịch sử.
Những cuộc cách mạng như vậy đã trải dài từ việc phát minh ra bàn đạp ngựa cho đến việc sử dụng súng cho đến việc khai triển chiến tranh cơ giới hóa và giờ đây là sự ra trận ồ ạt của robot và trí tuệ nhân tạo (AI).
Ông Milley tin rằng đó là một sự thay đổi về tính chất của chiến tranh, sự thay đổi mạnh mẽ hơn bất kỳ điều gì đã xảy ra trước đây.
“Hôm nay chúng ta đang ở … có lẽ là sự thay đổi lớn nhất trong lịch sử quân sự,”ông Milley nói trong cuộc thảo luận hôm 31/03 với Defense One.
“Đứng từ quan điểm quân sự, chúng ta đang ở một thời điểm quan trọng trong lịch sử. Chúng ta đang ở giai đoạn thay đổi cơ bản về tính chất của chiến tranh.”
Các đội quân robot trong 10 năm tới
Nhiều người chắc chắn sẽ cảm thấy an tâm hơn với ý tưởng về những người máy chiến đấu để giành quyền kiểm soát Trái đất nếu đó là cảnh tượng trong tiểu thuyết khoa học viễn tưởng hoặc trên màn ảnh rộng, chứ không phải là điều nằm trong danh sách ưu tiên của vị sĩ quan cấp cao nhất của quân đội Hoa Kỳ.
Tuy nhiên, ông Milley tin rằng những đội quân hùng mạnh nhất thế giới phần lớn sẽ là người máy trong thập niên tới, và ông muốn Hoa Kỳ trở thành quốc gia đầu tiên vượt qua ranh giới trong ngành điều khiển học đó.
“Trong vòng 10 đến 15 năm tới, quý vị sẽ thấy phần lớn quân đội của các nước tiên tiến trở thành người máy,” ông Milley nói. “Nếu quý vị bổ sung cho robot trí thông minh nhân tạo, vũ khí chính xác và khả năng nhìn xa, quý vị sẽ có được tổ hợp của một sự thay đổi căn bản thực sự.”
“Điều đó sắp xảy ra. Những thay đổi đó, công nghệ đó… chúng tôi đang xem xét trong vòng 10 năm tới.”
Điều đó có nghĩa là Hoa Kỳ có “5 đến 7 năm để thực hiện một số sửa đổi căn bản đối với quân đội của chúng ta,” ông Milley nói, bởi vì các đối thủ của quốc gia này đang tìm cách khai triển người máy và trí tuệ nhân tạo theo cách tương tự, nhưng lại đặt người Mỹ trong tầm ngắm của họ.
Ông nói, quốc gia nào đến đích trước, khai triển robot và AI cùng nhau theo một cách nhất quán sẽ thống trị cuộc chiến tiếp theo.
“Tôi cho rằng quốc gia, quốc gia-dân tộc nào sử dụng những công nghệ đó và vận dụng chúng một cách hiệu quả nhất cũng như tối ưu hóa chúng cho các hoạt động quân sự, thì quốc gia đó có thể sẽ có lợi thế quyết định khi bắt đầu cuộc xung đột tiếp theo,” ông Milley nói.
Hậu quả toàn cầu từ sự thay đổi tính chất của chiến tranh như vậy là rất khó để phóng đại.
Ông Milley đã so sánh sự khó khăn đang diễn ra để hình thành một phương thức chiến tranh mới với cuộc cạnh tranh diễn ra giữa các cuộc chiến tranh thế giới.
Ông Milley cho biết, vào thời đại đó, tất cả các quốc gia ở châu Âu đều có khả năng tiếp cận với các công nghệ mới, từ phương tiện cơ giới hóa đến đài phát thanh đến vũ khí hóa học. Tất cả họ lẽ ra đã có thể phát triển khái niệm thống nhất về chiến tranh cơ động thay thế cho chiến tranh tiêu hao đã định nghĩa nên Đệ nhất Thế chiến.
Nhưng chỉ có một quốc gia lần đầu tiên tích hợp việc sử dụng các công nghệ vào trong một phương thức chiến tranh mới thực thụ.
Ông nói: “Quốc gia đó, Đức Quốc Xã, đã xâm chiếm châu Âu trong một khoảng thời gian rất, rất ngắn… bởi vì họ có thể sử dụng những công nghệ đó và kết hợp chúng lại với nhau trong một học thuyết mà ngày nay chúng ta gọi là Blitzkrieg”.
Robot Artemis (Công nghệ robot tân tiến để tăng cường tính di động và cải thiện độ ổn định), do các nhà nghiên cứu của UCLA tạo ra. (Ảnh đăng dưới sự cho phép của Phòng thí nghiệm Cơ chế và Robot của UCLA)
Blitzkrieg 2040
Ông Milley cùng với Ngũ Giác Đài, hy vọng sẽ làm được điều tương tự ngay bây giờ bằng cách tập hợp các năng lực mới nổi như người máy, trí tuệ nhân tạo, nền tảng mạng và không gian, và vũ khí chính xác vào trong một học thuyết chiến tranh gắn kết.
Ông Milley cho biết, thông qua việc là quốc gia đầu tiên tích hợp những công nghệ này vào một khái niệm mới, Hoa Kỳ có thể thống trị chiến trường trong tương lai.
Để đạt được mục tiêu đó, Ngũ Giác Đài đang thử nghiệm các phương tiện không người lái mới ở trên không, trên mặt đất và dưới biển, cũng như tìm cách khai thác tính phổ biến của các công nghệ thông minh phi quân sự từ đồng hồ đeo tay đến thiết bị theo dõi trong tập luyện thể thao.
Mặc dù nỗ lực này chỉ mới thu hút được sự quan tâm chú ý, nhưng trên thực tế, ông Milley đã tuyên bố từ năm 2016 rằng quân đội Hoa Kỳ sẽ khai triển các lực lượng người máy hùng hậu trên mặt đất và các năng lực AI vào năm 2030.
Chỉ vài tuần nữa, ý tưởng đó sẽ bắt đầu thực sự lên đến đỉnh điểm, khi lời mời từ Bộ Quốc phòng (DoD) được gửi đến các nhà lãnh đạo trên các lĩnh vực quốc phòng, công nghệ và học thuật cho hội nghị đầu tiên của Ngũ Giác Đài về việc xây dựng “AI đáng tin cậy và quyền tự chủ” cho các cuộc chiến trong tương lai.
Ngũ Giác Đài đang ráo riết chiêu mộ, tìm cách trả lương hàng năm với sáu con số cho các chuyên gia sẵn sàng và có năng lực phát triển và tích hợp các công nghệ gồm “tương tác thực tế ảo, trí tuệ nhân tạo, giám sát trạng thái của con người, và hệ thống không người lái tự chủ.”
Tương tự như vậy, Bộ chỉ huy Tương lai của Lục quân Hoa Kỳ, được thành lập vào năm 2018, duy trì mục tiêu quan trọng là thiết lập cái mà họ gọi là “Lục quân 2040.” Nói cách khác, đây là quân đội robot, phụ thuộc vào AI của tương lai.
Mặc dù xa hơn một chút so với giả định của ông Milley là từ 10 đến 15 năm, nhưng phó chỉ huy Bộ Tư lệnh Tương lai, Thiếu Tướng Ross Coffman tin rằng năm 2040 sẽ đánh dấu việc Hoa Kỳ thực sự bước vào một thời đại đặc trưng với những cỗ máy sát nhân thông minh nhân tạo.
Trình bày tại một hội nghị thượng đỉnh hôm 28/03 của các nhà lãnh đạo DoD và các chuyên gia công nghệ, ông Coffman đã mô tả mối quan hệ hợp tác giữa con người và máy móc mà ông hình dung cho tương lai, liên hệ điều này với mối quan hệ giữa một chú chó và chủ nhân của nó.
Tuy nhiên, thay vì để AI giúp các binh sĩ tham gia chiến đấu, ông Coffman tin rằng con người sẽ giúp máy móc tham gia chiến trường.
“Tôi nghĩ chúng ta sẽ chứng kiến một sự thay đổi vào năm 2040,” ông Coffman nói, “khi con người sẽ thực hiện những chức năng cho phép máy móc đạt được vị trí có lợi thế tương đối, chứ không phải máy móc đưa con người vào vị trí có lợi thế tương đối.”
‘Mọi thứ vượt khỏi tầm kiểm soát’
Tái thiết quân đội Mỹ và hình thành một phương thức chiến tranh mới, mang tính gắn kết là một yêu cầu khá cao. Tuy nhiên, đó là một thứ mà Ngũ Giác Đài dường như đã sẵn sàng chi trả.
DoD đang yêu cầu khoản viện trợ kỷ lục 1.8 tỷ USD cho các dự án AI chỉ riêng cho năm tới. Số tiền đó sẽ vượt quá ước tính 1.6 tỷ USD mà quân đội Trung cộng dự định đầu tư vào AI.
Phần lớn khoản chi này cũng được dành cho các sáng kiến nhằm cải thiện việc ra quyết định của các hệ thống vũ khí tự chủ.
Ở mức tối thiểu thì nỗ lực này có vẻ là một khởi đầu thực sự đối với tầm nhìn của ông Milley về việc khai triển các hệ thống tự chủ hàng loạt. Nỗ lực này cũng làm dấy lên mối lo ngại sâu sắc về cuộc chiến tiếp theo có thể diễn ra như thế nào, và liệu ban lãnh đạo là những con người của DoD có được chuẩn bị đầy đủ để quản lý các sản phẩm sáng tạo có khả năng tự chủ của mình hay không.
Ông John Mills, cựu giám đốc chính sách an ninh mạng, chiến lược, và các vấn đề quốc tế tại Văn phòng Bộ trưởng Quốc phòng Hoa Kỳ tin rằng, con đường này tiềm ẩn đầy những hậu quả không lường trước được.
“Đó là Skynet,” ông Mills nói, đề cập đến AI hư cấu chinh phục thế giới trong loạt phim “Kẻ hủy diệt.” “Đó là việc hiện thực hóa một môi trường tương tự như Skynet.”
“Câu hỏi đặt ra là, điều gì có thể đi theo chiều hướng xấu trong tình huống này? Vâng, rất nhiều.”
Ông Mills không tin rằng AI xứng đáng với tất cả sự huyền bí mà nó được trao trong nền văn hóa đại chúng, nhưng ông lo ngại về xu hướng rõ ràng trong quá trình ra quyết định của quân đội đối với việc xây dựng các hệ thống có quyền tự chủ thực sự. Đó là, các hệ thống có khả năng đưa ra quyết định sát nhân mà không cần sự chấp thuận trước của con người.
Ông Mills cho biết: “AI nghe có vẻ đen tối và bí ẩn, nhưng đó thực sự là nguồn dữ liệu lớn, khả năng thu thập và phân tích dữ liệu đó bằng các phân tích lớn và điều quan trọng hiện nay là việc xử lý dữ liệu đó thường không có sự can thiệp của con người.”
Do đó, việc mất “quyền tự chủ” này trong nhiều công nghệ được đề xướng ở tương lai là một nguyên nhân gây lo ngại.
Ông Mills tin rằng việc đào tạo con người để xác định chính xác giữa bằng hữu và kẻ thù trước khi tham gia vào hành động động học là đủ phức tạp. Nhiều hơn nhiều so với máy móc.
Ông Mills cho biết: “Điều khác biệt bây giờ là khả năng xử lý các bộ dữ liệu đáng kinh ngạc này một cách tự động và không có sự can thiệp của con người.”
“Việc tích hợp AI với các phương tiện có quyền tự chủ và để chúng hoạt động độc lập mà không cần con người đưa ra quyết định, đó là lúc mọi thứ vượt khỏi tầm kiểm soát.”
Cuối cùng, ông Mills bày tỏ lo ngại về một cuộc xung đột trong tương lai có thể xảy ra giữa Hoa Kỳ và các đồng minh của họ và Trung cộng ở khu vực Ấn Độ Dương-Thái Bình Dương.
Ông nói, hãy tưởng tượng một không gian chiến đấu dưới đáy biển, trong đó các tàu ngầm tự động và các hệ thống vũ khí khác rải rác ở biển.
Do các lực lượng Trung cộng, Mỹ, Nam Hàn, Úc, Ấn Độ và Nhật Bản khai triển, sự hỗn loạn từ đó có thể sẽ kết thúc bằng việc các hệ thống tự chủ tham gia chiến tranh trên toàn khu vực, trong khi các chiến hạm có người lái kìm hãm và tìm cách khởi động các cỗ máy chiến tranh robot tiếp theo một cách tốt nhất. Bất cứ điều gì khác sẽ có nguy cơ đặt cuộc sống thực vào tay của những kẻ sát nhân tự động.
“Làm thế nào để quý vị dự trù cho các kịch bản tương tác với các thiết bị có quyền tự chủ dưới biển?” ông Mills hỏi.
“Đây sẽ là mớ hỗn loạn trong chiến tranh dưới lòng đất.”
Sát nhân tự động
Chắc chắn, việc ngăn chặn sát nhân tự động tiêu diệt các chiến binh bằng các hệ thống thông minh nhân tạo là điều mà Ngũ Giác Đài đã nghĩ đến từ lâu.
Đơn cử, Chiến lược Trí tuệ Nhân tạo năm 2018 đã tìm cách đẩy nhanh việc áp dụng AI trên toàn bộ Bộ Quốc Phòng đồng thời tìm kiếm các phương pháp tiếp cận có đạo đức để “giảm tác hại không có chủ ý.”
Tương tự như vậy, Nguyên Tắc Đạo Đức cho Trí Tuệ Nhân Tạo năm 2020 cũng tìm cách bảo đảm rằng chỉ những công nghệ AI “đáng tin cậy” và “có thể quản lý” mới được quân đội áp dụng.
Trong khi đó, Lộ Trình Khai Triển và Chiến Lược Trí Tuệ Nhân Tạo Đáng Tin Cậy năm 2022 đã vạch ra một kế hoạch nhằm giảm thiểu những hậu quả không mong muốn có thể xảy ra do việc khai triển AI trong các hệ thống quân sự.
Tuy nhiên, không có nỗ lực nào trong số này thực sự sẽ ngăn cản việc áp dụng các cỗ máy sát nhân hoàn toàn tự động. Thật vậy, những nỗ lực đó chưa bao giờ có chủ ý này.
Đó là bởi vì tất cả các tài liệu như vậy đều được soạn thảo theo hướng dẫn của Chỉ thị DoD 3000.09, tài liệu hướng dẫn của Ngũ Giác Đài về việc phát triển các hệ thống vũ khí tự chủ.
“Đó là nền tảng,” ông Mills nói về tài liệu này. “Điều đó rất quan trọng vì nó thúc đẩy sự phát triển.”
Được ban hành lần đầu hồi năm 2012, tài liệu này vừa được chỉnh sửa một phần lớn hồi tháng Một, nhằm chuẩn bị cho Ngũ Giác Đài đón nhận điều mà Giám đốc Chính sách về Năng lực Mới nổi của Bộ Quốc phòng Michael Horowitz cho biết vào thời điểm đó là “một tầm nhìn mở rộng, ấn tượng về vai trò của trí tuệ nhân tạo trong tương lai của quân đội Mỹ.”
Chỉ có một cảnh báo đối với việc khai triển các hệ thống AI gây chết người có đạo đức, đáng tin cậy, có thể quản lý được: Ngũ Giác Đài không có bất kỳ quy tắc cứng rắn và nhanh chóng nào để cấm các hệ thống tự chủ sát nhân.
Thật vậy, dù chỉ thị 3000.09 thường được những người ủng hộ công nghệ tự chủ tham khảo, nhưng tài liệu này không thực sự thúc đẩy các công nghệ như vậy, cũng như không cấm sử dụng các hệ thống gây sát nhân hoàn toàn tự động.
Thay vào đó, tài liệu phác thảo một loạt các đánh giá nghiêm ngặt mà các hệ thống tự chủ được đề nghị phải vượt qua. Và, trong khi chưa có hệ thống vũ khí AI độc lập nào vượt qua được quá trình đó, thì tương lai có thể sẽ chứng kiến nhiều hệ thống như vậy.
Đây là một phần không nhỏ của thực tế là chính quyền cộng sản Trung cộng đang nhanh chóng làm việc để chế tạo những cỗ máy sát nhân tự chủ của riêng mình, và Bộ Quốc phòng sẽ phải chuẩn bị đối đầu trực diện với mối đe dọa đó, đồng thời cố gắng duy trì các giá trị của Hoa Kỳ.
“Trung cộng cũng đang cố gắng giải quyết những vấn đề khó khăn này, cho phép AI tham gia mà không cần sự can thiệp của con người,” ông Mills nói.
“Tôi nghĩ xu hướng của họ là cho phép điều đó xảy ra ngay cả khi họ vô tình sát hại chính người dân của mình.”
Cuối cùng, cuộc chiến tiếp theo có thể chủ yếu diễn ra giữa các robot thông minh nhân tạo, với những người điều khiển là con người đứng bên ngoài, cố gắng hết sức để chỉ đạo hành động.
Liệu Hoa Kỳ có thể quản lý điều đó mà không mất quyền kiểm soát những sáng tạo của mình hay không, điều đó vẫn còn phải đợi xem.
Ông Mills hy vọng rằng, nếu ai đó có thể làm được, đó chính là Hoa Kỳ. Rốt cuộc, ông nói, chúng ta có những tài năng tốt nhất của nhân loại.
Ông Mills cho biết: “Tôi nghĩ rằng chúng ta vẫn có đủ biện pháp bảo vệ vốn sẽ được lặp đi lặp lại, để chúng ta có thể trở nên thông minh hơn và học cách xây dựng các biện pháp đề phòng và kiểm soát với thuật toán,” ông Mills nói.
“Tôi nghĩ chúng ta đang sở hữu những đội ngũ và con người tài giỏi trong lĩnh vực này.”
Andrew Thornebrooke
No comments:
Post a Comment
Note: Only a member of this blog may post a comment.