Thursday, May 25, 2017

Thảm họa khi tin tặc tấn công trí thông minh nhân tạo

image
Hãy tưởng tượng bạn đang sống trong năm 2022. Bạn đang ngồi trong chiếc xe lái tự động trên con đường quen thuộc trong thành phố. Chiếc xe tiến gần đến một biển báo dừng lại mà nó đã đi qua hàng trăm lần - thế nhưng lần này nó lại vượt thẳng qua.

Đối với bạn, biển báo này giống hệt như những lần khác Thế nhưng đối với chiếc xe, nó hoàn toàn khác. Trước đó chỉ vài phút, một tấm giấy dán nhỏ đã được gắn lên trên biển hiệu mà cả bạn và chiếc xe đều không hề hay biết. Nó đủ nhỏ để mắt thường không nhìn thấy, nhưng đủ lớn để đánh lừa công nghệ nhận dạng.

Nói cách khác, nó đủ để khiến máy tính nghĩ rằng biển báo hiệu dừng lại không phải là biển báo hiệu dừng lại.
Nhiều nghiên cứu đang chỉ ra rằng trí thông minh nhân tạo có thể bị đánh lừa bằng những cách đơn giản như vậy, khi chúng nhìn thấy những điều mà mắt thường con người không nhận biết được.

Trong lúc những công nghệ giúp máy tính tự học và nâng cao khả năng nhận biết đang ngày càng được sử dụng nhiều hơn trong hệ thống giao thông, tài chính và y tế của chúng ta, các nhà khoa học máy tính đang hy vọng sẽ có thể tìm ra cách bảo vệ chúng tốt hơn trước những vụ tấn công trước khi những vụ tấn công này xảy ra trên thực tế.

image

"Mối lo ngại này ngày càng xuất hiện nhiều hơn trong cộng đồng trí thông minh nhân tạo và máy tính học, nhất là khi những thuật toán này đang được sử dụng ngày một nhiều hơn," Daniel Lowd, phó giáo sư về khoa học máy tính và thông tin tại Đại học Oregon, nói.

"Nếu các thư rác vượt qua được tường lửa hoặc một vài email bị chặn, hậu quả không phải là quá lớn. Thế nhưng nếu bạn phải dựa vào hệ thống nhận biết trong xe tự động lái để biết mình đang đi về đâu và tránh tai nạn, thì lại to chuyện hơn rất nhiều."

Việc máy tính bị hỏng hóc hoặc bị xâm nhập có thể tác động rất lớn đến cách mà những thuật toán máy tính học 'nhìn nhận' thế giới. Khi đó, đối với nó, một con gấu trúc có thể trông giống như một con vượn, hoặc một chiếc xe buýt trường học có thể trông giống như một con đà điểu.

Trong một thử nghiệm, các nhà nghiên cứu từ Pháp và Switzerland đã chỉ ra rằng những sự phá rối như vậy có thể làm cho máy tính lẫn lộn về mặt nhận biết.

image

Vì sao lại như vậy? Hãy liên tưởng đến việc những đứa trẻ học cách nhận biết các con số. Chúng sẽ nhìn từng con số và tìm cách ghi nhớ những điểm chung: Số 1 cao và gầy, số 6 và 9 có 1 vòng tròn trong khi số 8 có hai vòng tròn. Một khi đã nhìn thấy đủ các ví dụ, chúng có thể nhanh chóng nhận biết các số mới như 4, 8 hoặc 3 - ngay cả khi những con số này được viết dưới những phong cách khác nhau.

Các thuật toán máy học cũng nhận biết thế giới thông qua một quy trình tương tự. Các nhà khoa học nạp vào máy tính hàng trăm hoặc hàng nghìn ví dụ được phân loại cụ thể về những gì họ muốn máy tính nhận biết. Máy tính sau đó lướt qua các dữ liệu được nạp và trong lúc nó phân loại đâu là con số, đâu là không - nó bắt đầu ghi nhớ những đặc điểm của đáp án đúng. Sau đó, nó bắt đầu có khả năng nhìn vào một bức hình và khẳng định rằng 'đây là một số 5' với độ chính xác cao.

image
Trí tuệ nhân tạo đang ngày càng ảnh hưởng nhiều tới đời sống con người, từ xe hơi tự lái cho tới các thiết bị gia dụng tự hoạt động trong nhà

Bằng cách này, cả trẻ em lẫn máy tính có thể học cách nhận biết một số lượng lớn các vật thể, từ số cho tới thú nuôi cho tới khuôn mặt con người.

Thế nhưng, không giống như một đứa trẻ, máy tính không chú ý tới những chi tiết nhỏ như cái tai đầy lông của một con mèo hoặc những góc cạnh của số 4. Nó không nhìn vào toàn bức tranh.

Thay vào đó, nó nhìn vào từng ảnh điểm của các bức tranh và tìm cách phân biệt từng vật thể một cách nhanh nhất. Nếu phần lớn số 1 có cách ảnh điểm màu đen ở một số vùng và một số ảnh điểm màu trắng ở các vùng khác, máy tính sẽ đưa ra quyết định chỉ sau khi đã kiểm tra một số ít những ảnh điểm này.

Hãy thử nhìn lại câu chuyện biển báo dừng lại. Chỉ cần điều chỉnh các ảnh điểm trên hình kí hiệu, máy tính sẽ tưởng rằng tấm biển này là một thứ khác.

Một nghiên cứu tương tự từ Phòng Thí Nghiệm Trí Thông minh Nhân tạo Phát triển tại Đại học Wyoming và Đại học Cornell đã tạo ra một loạt các ảo ảnh cho trí thông minh nhân tạo.

Những hình ảnh trừu tưởng này rất khó hiểu đối với con người, thế nhưng chúng ngay lập tức được máy tính nhận biết là những con rắn hay các khẩu súng trường. Điều này cho thấy cách mà trí thông minh nhân tạo có thể nhìn vào một cái gì đó và phán đoán ra một thứ khác xa thực tế.

image 

Đây là điểm yếu chung của tất cả các thuật toán máy học. "Tất cả các thuật toán đều có một điểm yếu," Yevgeniy Vorobeychik, phó giáo sư về khoa học máy tính tại Đại học Vanderbilt, nói.

"Chúng ta sống trong một thế giới phức tạp, nhiều khía cạnh, và các thuật toán chỉ tập trung vào một phần rất nhỏ của thế giới đó."

Voyobeychik 'rất tự tin' rằng nếu những điểm yếu này tồn tại, một ai đó sẽ tìm cách lợi dụng chúng. Điều này đã bắt đầu xảy ra.

Ví dụ như các thuật toán nhằm sàng lọc các email không rõ nguồn gốc. Những kẻ xấu có thể vượt qua tường lửa bằng cách chỉnh sửa cách viết của một số từ, ví dụ như Vi@gra thay vì Viagra hoặc tìm cách tung hoả mù để che giấu các từ thường xuyên xuất hiện trong thư rác, ví dụ như 'nhận giải', 'mobile' hoặc 'thắng giải'.

image

Điều gì sẽ giúp những kẻ lừa đảo này thành công? Trường hợp chiếc xe tự lái bị đánh lừa trước biển báo dừng lại là một trong những viễn cảnh phổ biến mà các chuyên gia trong ngành đã nghĩ đến. Những dữ liệu gây nhiễu có thể giúp các trang web khiêu dâm lừa được tường lửa. Những kẻ lừa đảo khác có thể tìm cách nâng giá trị của một tờ cheque hoặc chỉnh sửa mã của các phần mềm độc hại nhằm giúp chúng vượt qua hệ thống an ninh máy tính.

Trên lý thuyết, những kẻ xâm nhập chỉ có thể tạo dữ liệu gây nhiễu nếu họ có trong tay thuật toán của chiếc máy tính mà họ muốn qua mặt. Tuy nhiên trên thực tế họ chỉ cần tấn công bằng một số lượng lớn các phiên bản khác nhau của email hoặc hình ảnh cho đến khi một tập tin nào đó vượt qua được tường lửa.

image

"Các hệ thống dùng thuật toán máy học đã bị lợi dụng kể từ khi chúng ra đời," Patrick McDaniel, giáo sư khoa học máy tính tại Đại học Bang Pennsylvania, nói.

"Chúng ta không biết là những mánh khoé này có đang được sử dụng hay không".

Thế nhưng phương pháp tạo dữ liệu gây nhiễu không chỉ có lợi cho những kẻ xấu. Chúng có thể được sử dụng để giúp đỡ những người muốn tránh bị theo dõi.

"Nếu bạn là một nhà hoạt động chính trị tại một quốc gia độc tài và bạn muốn tiến hành các hoạt động của mình mà không bị theo dõi, việc tránh được các công nghệ theo dõi tự động sẽ rất hữu ích," Lowd nói.

image

Trong một dự án, được công bố vào tháng 10, các nhà nghiên cứu tại Đại học Carnegie Mellon đã chế tạo một cặp kính có khả năng đánh lừa hệ thống nhận dạng mặt - khiến cho máy tính tưởng nhầm nữ diễn viên Reese Witherspoon là Russel Crowe. Nghe thì có vẻ buồn cười, nhưng những công nghệ như vậy có thể sẽ trở nên rất hữu ích cho những ai muốn né tránh sự theo dõi của thế lực cầm quyền.

Vậy làm sao để có một thuật toán không dễ bị lừa? "Cách duy nhất là có một thuật toán luôn luôn đúng," Lowd nói. Ngay cả khi chúng ta có thể tạo ra trí thông minh nhân tạo có khả năng đánh bại con người, thế giới này vẫn luôn tồn tại những trường hợp không có đáp án rõ ràng.

Các thuật toán máy học thường được đánh giá bởi độ chính xác. Một chương trình có khả năng nhận biết đúng 99% rõ ràng là tốt hơn chương trình chỉ đánh giá đúng 60%. Tuy nhiên các chuyên gia giờ đây cho rằng các thuật toán cần được đánh giá dựa trên khả năng kháng cự các vụ tấn công.

Một giải pháp khác đó là giả lập các vụ tấn công và chỉ cho thuật toán máy tính học thấy. Điều này có thể giúp hệ thống trở nên ngày càng vững vàng hơn. Tất nhiên là các vụ tấn công được giả lập này cũng gần giống với các vụ tấn công có thể xảy ra trong thế giới thật.

McDianiel cho rằng chúng ta nên cho phép con người can thiệp vào thuật toán trong những trường hợp cần thiết. Một số 'trợ lý thông minh' như M của Facebook, có con người đứng đằng sau để kiểm tra và tinh chỉnh các câu trả lời, trong khi một số chuyên gia khác cho rằng sự kiểm tra của con người cũng đóng vai trò quan trọng trong các ứng dụng nhạy cảm khác, ví dụ như quyết định của toà án.

"Các hệ thống máy học là công cụ để lập luận. Chúng ta cần rất tỉnh táo trước những gì chúng ta cho chúng biết, cũng như những gì chúng cho ta biết", ông nói. "Chúng ta không nên xem chúng là những nhà tiên tri sự thật hoàn hảo".



Aviva Hope Rutkin

image

Stalin: tư tưởng độc tài và gia đình bất hạnh
Chè xứ Bắc
Lãnh tiền hưu SSA, làm sao xin tiền SSI
Những thói quen hàng ngày tiết lộ tính cách của bạ...
Vì sao người Việt ở lại Mỹ dù quá hạn visa?
President Trump @ the Vatican with Pope Francis 5/...
Ivanka Trump: Ái nữ Tổng thống Mỹ
Đừng 'sống thật' ở chốn công sở?
Trợ cấp SSI hay trợ cấp tiền già?
Có những niềm đau
VN 'tăng việc quản thúc' trước đối thoại nhân quyề...
Vũ khí chết người từ thiết bị bay nhỏ
Nút bần của chai rượu vang
Người trẻ Việt mặc áo cờ vàng ba sọc đỏ
Những ý nghĩa đằng sau mũ trùm đầu trắng
Chặt đứt dương vật kẻ hãm hiếp
Từ tường thành La Mã tới bức tường ông Trump
Sinh nghề tử nghiệp
Hài hước chuyển nguy thành an
Châu Á và cơn sốt dựng tượng

Stalin: tư tưởng độc tài và gia đình bất hạnh

image
Tù khổ sai làm kinh tế xây dựng chế độ 'xã hội chủ nghĩa' Liên Xô

Trong tiếng Anh, Stalinism có hai nghĩa: đó là phương pháp lãnh đạo kiểu Stalin dùng bộ máy an ninh để khủng bố nhân dân, cán bộ đảng cộng sản; và chủ nghĩa Stalin, một dòng ý thức hệ.

Nhưng các hành vi và suy nghĩ của Josef Stalin (1878 -1953) cũng ảnh hưởng nhiều đến gia đình, vợ con ông.

Phương pháp và tư tưởng của Stalin

image

Theo Bách khoa Toàn thư Anh (Britannica), cơ sở lý luận của Stalinism được Josef Stalin nêu ra là đề cao bộ máy nhà nước.

Nếu như ý thức hệ xã hội chủ nghĩa theo cách truyền thống nói nhà nước "sẽ dần tan biến đi" trong xã hội tương lai không còn giai cấp, Stalin lại nhấn mạnh rằng để đạt mục tiêu phi giai cấp đó, cần làm nhà nước mạnh lên đã.

Stalin cũng nêu ra khái niệm "tổ quốc xã hội chủ nghĩa", đặt Liên Xô thành trung tâm của phong trào cộng sản và cánh tả thế giới.

Nói ngắn gọn thì bảo vệ Liên Xô là bảo vệ chủ nghĩa xã hội, và nhiệm vụ này có ý nghĩa cho cả nhân loại.

Điểm chính yếu khác của chủ nghĩa Stalin là "tiêu diệt các kẻ thù bên trong (Liên Xô), và bên ngoài".

Bên trong, cho đến năm 1939, gần như tất cả các nhà cách mạng thuộc nhóm Bolshevik cũ tham gia chính biến 1917 đã bị thủ tiêu.

Đấu tranh giai cấp trở thành chính sách cơ bản để tham lọc và tiêu diệt toàn bộ tầng lớp trí thức, có của, nông dân giàu có và tư sản Nga.

Đặc biệt, dùng sức của kẻ thù giai cấp để xây dựng kinh tế cũng thành chính sách của Liên Xô thời Stalin.

image

Ước tính có từ 7-15 triệu người dân Xô Viết bị đầy vào cách trại tù khổ sai để khai phá các vùng đất xa xôi, lạnh lẽo.

Bên ngoài, tiêu diệt kẻ thù cũng được thực hiện chừng nào cuộc cách mạng quốc tế chưa hoàn tất trên toàn thế giới.

image
Từ trái: Stalin và vợ, Nadezhda Alliluyeva

Về nguyên tắc lãnh đạo, Stalinism chủ trương tập trung quyền lực vào một người, tạo ra chủ nghĩa sùng bái cá nhân.

Trong một thời gian dài cho đến khi chết, Josef Stalin vừa làm Tổng Bí thư Đảng Cộng sản Liên Xô, vừa làm Thủ tướng Chính phủ.

Nhưng những người bênh Stalin cũng nói đến "thành tích" của nhà độc tài Liên Xô "có quyền lực hơn bất cứ ai trong lịch sử", theo Britannica.

"Stalin đã công nghiệp hóa Liên Xô, cưỡng bức hợp tác hóa nông nghiệp và dùng công an trị để khủng bố, đồng thời đánh thắng nước Đức trong cuộc chiến 1941-45.

image

"Stalin cũng đã mở rộng sự kiểm soát của Liên Xô sang cả một vùng vành đai Đông Âu.

Ông ta triệt tiêu hoàn toàn tự do cá nhân, chống lại sự thịnh vượng cá nhân nhưng cũng tạo ra một cơ sở công nghiệp và quân sự hùng mạnh và đưa Liên Xô vào kỷ nguyên hạt nhân."

Nhiều bi kịch

Về gia đình, cuộc đời Stalin và tính cách ông ta gây ra nhiều bi kịch cho thân nhân.

image
Phương pháp lãnh đạo kiểu Stalin dùng bộ máy an ninh để khủng bố nhân dân và cán bộ đảng cộng sản

Stalin có hai đời vợ, một con gái Svetlana Alliluyeva, các con trai Yakov Dzhugashvili, Vasily Stalin và con nuôi Artyom Sergeyev.

Bà vợ đầu tiên, Ketevan "Kato" Svanidze, người Georgia, qua đời năm 1907 sau khi sinh ra con trai Yakov được bảy tháng.

Cậu bé được nhận lễ rửa tội trong Nhà thờ của Chính Thống giáo.

Người vợ thứ hai, Nadezhda (Nadia) Alliluyeva, người Nga, có cha bà, ông Sergei Alliluyev là một nhà cách mạng.

Ông đã cùng vợ Olga cưu mang che dấu Stalin khi trốn tù từ Siberia trở về năm 1911.

image

Bà Nadia tự sát năm 1932 khi Stalin đang ở đỉnh cao quyền lực.

Đám tang của bà không có mặt người chồng là nhà lãnh đạo tối cao.

Cuộc đời các con của Stalin cũng phản ánh những thăng trầm của Liên Xô.

Con gái duy nhất Svetlana được Stalin yêu quý, đã trốn khi sang Dehli năm 1966 để lo đám tang cho người tình Ấn Độ.

Tại Dehli, bà vào Sứ quán Hoa Kỳ xin tỵ nạn chính trị rồi sang sống ở Mỹ.

Bà nhập tịch Hoa Kỳ, lấy chồng là kiến trúc sư William Wesley Peters, rồi chọn tên Lana Peters.

Cuộc bỏ trốn của bà đã gây một cú choáng cho dư luận Liên Xô thời Brezhnev.

image
Con gái duy nhất Svetlana được Stalin yêu quý

image

Dù đã thay tên đổi họ, cho đến khi qua đời năm 2011 ở Wisconsin, Lana Peters nói rằng bà chưa bao giờ thoát khỏi "cái bóng" của người cha.

Con trai cả của Stalin, Yakov Dzhugashvili giữ nguyên họ Georgia.

Các tư liệu nói hồi trẻ, cuộc tình của Yakov với một cô gái Nga, Zoya bị cha phản đối.

image

Trong một lần bị tống cổ khỏi nhà, Yakov dùng súng bắn vào ngực nhưng không chết dù viên đạn xuyên vào phổi.

Sau đó, được sự ủng hộ của mẹ kế, Yakov đã kết hôn với Zoya nhưng cuộc hôn nhân chỉ tồn tại không quá hai năm.

Ông trở thành sỹ quan pháo binh bị phát-xít Đức bắt trong trận Smolensk năm 1941.

Phải mất nhiều tuần sau quân Đức mới xác định danh tính của ông là con trai Stalin và đối xử tốt với ông.

Nhưng chính Stalin, trong quân lệnh 270, tháng 8/1941, đã viết rằng mọi sỹ quan và chính ủy Hồng quân Liên Xô chịu bị bắt làm tù binh là kẻ phản bội tổ quốc.

image

Họ phải nhận án tử hình khi về nước, và thân nhân họ sẽ bị công an bắt.

Theo đúng lệnh này, người vợ thứ hai của Yakov là Yulia Meltzer bị lôi khỏi nhà dù đang nuôi con gái ba tuổi và tống vào ngục ở Lefortovo trong hai năm.

Phía Đức muốn đổi Yakov với Thống chế Friedrich Paulus, tư lệnh quân phát- xít đầu hàng sau trận Stalingrad.
Nhưng Stalin đã nói câu nổi tiếng:

"Tôi không bao giờ đổi thống chế lấy trung uý."

image

Yakov chết trong trại tập trung Sachsenhausen ở Oranienburg, gần Berlin, năm 1943 khi 36 tuổi.

Một điều tra kết thúc năm 2000 của nhóm chuyên gia Nga - Mỹ do Giáo sư John Erickson chủ trì đã kết luận Yakov tự sát bằng cách nhảy vào hàng rào cắm điện trong trại.

Xác ông bị quân cảnh Đức bắn nát khi đã chết.

Yakov làm điều đó vì cãi nhau với một tù binh Anh về tin tức rằng chế độ Stalin thảm sát 15 nghìn sỹ quan Ba Lan ở rừng Katyn gần Smolensk tháng 5/1940.

image

Giáo sư Erickson kết luận rằng nỗi ô nhục khi nghe tin về vụ Katyn đã khiến Yakov muốn kết liễu đời mình.

image
Yakov Dzhugashvili bị quân Đức hỏi cung sau trận Smolensk năm 1941 - ông tự sát chết trong tù năm 1943

Năm 1977, trung uý Yakov Dzhugashvili được Liên Xô truy tặng Huân chương Ái quốc hạng nhất.

image 

Người em trai cùng cha của Yakov là Vasily Stalin thì bị ám ảnh bởi cái chết tự sát của mẹ năm 1932 khi cậu bé mới 11 tuổi.

Nghiện rượu từ hồi trẻ, Vasily vào quân đội và tốt nghiệp trường phi công.

Lợi dụng tên tuổi cha, sỹ quan này gây ra nhiều điều tiếng như tán gái, lái máy bay khi còn say xỉn.

Năm 1941, Vasily được phong thiếu tá, rồi đại tá chỉ vài tháng sau.

Sau chiến tranh, ông nhận hàm thiếu tướng nhưng không tỏ ra có tài chỉ huy.

Ngay khi Stalin qua đời, Vasily bị bắt khẩn cấp vì các nghi vấn 'tội gián điệp', điều các sử gia ngày nay bác bỏ.

Tuy thế, ông vẫn bị giam 7 năm và chỉ được thả năm 1960 sau khi cầu xin tân lãnh đạo Nikika Khrushchev.

Chưa đầy một năm sau, Vasily, lúc này đã bị tước quân tịch và giải ngũ, lại vào tù vì lái xe gây tai nạn.
Ông chết vì bệnh rượu lúc chưa đầy 41 tuổi ở Kazan.

image

Có tài liệu nêu ra thuyết Vasily đã giết cha hoặc để mặc cho Stalin bị đột quỵ trong nhà nghỉ ngoại ô mà không báo cấp cứu.

Nghi vấn này được sử gia Simon Sebag-Montefiore điều tra trong một phóng sự cho BBC Timewatch hồi 2010.
Trên thực tế, việc để mặc Stalin nằm trên nền sau đột quỵ tại nhà nghỉ ở Kuntsevo tháng 3/1953 là do Lavrentiy Beria, Nikita Khrushchev và Georgy Makenkov, cùng quyết định, theo Joshua Rubenstein.

image

Còn một người nữa được công nhận là con của Stalin mà không mang dòng máu và họ của ông.

Artyom Fyodorovich Sergeyev, sinh năm 1921, là con của ông Fyodor Sergeyev, bạn Stalin bị chết trong tai nạn xe lửa và được nhà lãnh đạo Liên Xô đón về nuôi.

image

Ông sau được phong thiếu tướng và qua đời năm 2008 ở Moscow.

image 

Chè xứ Bắc
Lãnh tiền hưu SSA, làm sao xin tiền SSI
Những thói quen hàng ngày tiết lộ tính cách của bạ...
Vì sao người Việt ở lại Mỹ dù quá hạn visa?
President Trump @ the Vatican with Pope Francis 5/...
Ivanka Trump: Ái nữ Tổng thống Mỹ
Đừng 'sống thật' ở chốn công sở?
Trợ cấp SSI hay trợ cấp tiền già?
Có những niềm đau
VN 'tăng việc quản thúc' trước đối thoại nhân quyề...
Vũ khí chết người từ thiết bị bay nhỏ
Nút bần của chai rượu vang
Người trẻ Việt mặc áo cờ vàng ba sọc đỏ
Những ý nghĩa đằng sau mũ trùm đầu trắng
Chặt đứt dương vật kẻ hãm hiếp
Từ tường thành La Mã tới bức tường ông Trump
Sinh nghề tử nghiệp
Hài hước chuyển nguy thành an
Châu Á và cơn sốt dựng tượng
Công chúa trở thường dân sau khi kết hôn