Một công cụ kiểm tra thực tế trên YouTube được vi tính hóa rất sai: Trong vụ cháy nhà thờ Đức Bà, bằng cách nào đó, nó thấy thảm kịch ngày 11 tháng 9

Khoa Học/Công Nghệ

Khi những hình ảnh về ngọn lửa mang tính biểu tượng rơi xuống đường phố được phát trên YouTube, các bảng thông tin đã xuất hiện bên dưới các video xuất hiện để liên kết nó với vụ tấn công khủng bố vào ngày 11 tháng 9.


Ngọn lửa nhấn chìm hai phần ba Nhà thờ Đức Bà ở Paris. (Julien De Rosa / EPA-EFE / REX / Shutterstock)

Bởi Craig Timberg và

Craig Timberg

Phóng viên quốc gia về công nghệ

E-mail Sinh học Theo

Drew Harwell

Drew Harwell

Phóng viên công nghệ quốc gia về trí tuệ nhân tạo

E-mail Sinh học Theo

15 tháng 4 lúc 5:23 chiều

Một công cụ YouTube mới để chống lại thông tin sai lệch đã thất bại theo cách rất công khai vào thứ Hai, liên kết sai video về vụ sập ngọn lửa tại nhà thờ Đức Bà ở Paris đến ngày 11 tháng 9 năm 2001, tấn công khủng bố.

Khi hình ảnh của tòa tháp biểu tượng rơi xuống đường được phát trên các bản tin trên khắp thế giới - và trên các kênh YouTube phản chiếu những bản tin đó - các bảng thông tin trên mạng đã xuất hiện trong các hộp bên dưới các video cung cấp thông tin chi tiết về sự sụp đổ của Trung tâm Thương mại Thế giới ở New York sau vụ khủng bố tấn công, khiến hàng ngàn người thiệt mạng.

Thảm kịch 9/11 là một chủ đề thường xuyên của những trò lừa bịp và các bảng thông tin được đăng tự động, có thể là do sự giống nhau về mặt hình ảnh mà thuật toán máy tính đã phát hiện giữa hai sự cố. YouTube bắt đầu tung ra các bảng thông tin cung cấp thông tin thực tế về các chủ đề của những trò lừa đảo thường xuyên trong vài tháng qua.

Misfire đã nhấn mạnh các giới hạn liên tục của các công cụ máy tính để phát hiện và chống lại thông tin sai lệch - cũng như tiềm năng của chúng để vô tình cung cấp nhiên liệu cho nó. Trong khi các công ty công nghệ lớn đã thuê hàng chục ngàn người điều hành con người trong những năm gần đây, các giám đốc điều hành tại Thung lũng Silicon đã nói rằng máy tính nhanh hơn và hiệu quả hơn trong việc phát hiện các vấn đề.

Nhưng sự cố hôm thứ Hai cho thấy những điểm yếu của hệ thống máy tính. Chỉ một tháng sau khi YouTube và Facebook phải vật lộn hàng giờ để phát hiện và chặn video về vụ nổ súng hàng loạt tại một nhà thờ Hồi giáo ở New Zealand mà người dùng Internet đã đăng và đăng lại.

Tại thời điểm này, không có gì đánh bại con người, ông David Carroll, phó giáo sư thiết kế truyền thông tại New School ở New York và là một nhà phê bình của các công ty truyền thông xã hội. Đây là một trường hợp mà bạn khó có thể phân loại sai ví dụ cụ thể này, trong khi những cỗ máy tốt nhất trên hành tinh đã thất bại.

YouTube thừa nhận thất bại, mà BuzzFeed đã báo cáo nó được tìm thấy trên ba kênh tin tức khác nhau trên trang web.

Sự xuất hiện của các bảng thông tin đã tạo ra một làn sóng suy đoán vô căn cứ trên phương tiện truyền thông xã hội rằng vụ cháy là một cuộc tấn công khủng bố. Trên Twitter, một số người dùng đã khẳng định sai lầm rằng đám cháy được châm ngòi bởi những kẻ khủng bố Hồi giáo. Các nhà chức trách ở Paris thay vì đổ lỗi cho việc cải tạo đang diễn ra tại nhà thờ và không trích dẫn bằng chứng khủng bố.

Các bảng điều khiển là một trong những ý tưởng trung tâm mà YouTube đã đề xuất vào năm ngoái sau vụ nổ súng ở trường học ở Parkland, Florida, trong đó một đoạn video gợi ý một trong những người sống sót ở tuổi thiếu niên là một diễn viên khủng hoảng đầu tiên, YouTube đã vươn lên dẫn đầu các video về xu hướng của YouTube .

Các thuật toán của người khổng lồ video sẽ tự động đặt các bảng thông tin của YouTube, bên dưới các video gây tranh cãi hoặc liên quan đến âm mưu, với các mô tả và liên kết ngắn đến các nguồn như Wikipedia và Encyclopaedia Britannica. Ví dụ, video cho thấy cuộc đổ bộ lên mặt trăng là giả mạo, bao gồm các liên kết đến chương trình không gian Apollo.

YouTube cho biết trong một tuyên bố, chúng tôi vô cùng đau buồn trước vụ hỏa hoạn đang diễn ra tại nhà thờ Đức Bà. Năm ngoái, chúng tôi đã ra mắt bảng thông tin với các liên kết đến các nguồn của bên thứ ba như Encyclopaedia Britannica và Wikipedia cho các chủ đề có thông tin sai lệch. Các bảng này được kích hoạt theo thuật toán và các hệ thống của chúng tôi đôi khi thực hiện cuộc gọi sai. Chúng tôi đang vô hiệu hóa các bảng này cho các luồng trực tiếp liên quan đến đám cháy.

Một phát ngôn viên của Twitter cho biết công ty đang xem xét và hành động theo quy định của chúng tôi.

YouTube và các công ty công nghệ khác đã báo cáo thành công trong việc sử dụng trí thông minh nhân tạo để phát hiện một số loại hình ảnh phổ biến mà người dùng tải lên nền tảng của họ. Chúng bao gồm nội dung khiêu dâm trẻ em và ngày càng nhiều hơn, hình ảnh từ các nhóm khủng bố cực đoan, dựa trên cờ, logo và hình ảnh bạo lực nhất định, chẳng hạn như chặt đầu.

Nhưng các hệ thống tự động đã phải vật lộn với những điều bất ngờ, chẳng hạn như sự tương đồng về mặt hình ảnh giữa sự sụp đổ của ngọn tháp của nhà thờ Đức Bà và Tháp đôi. Họ cũng đã vật lộn với video dựa trên bối cảnh, bao gồm các lý thuyết âm mưu đáng ghét, hình ảnh tình dục mà không có nội dung khiêu dâm rõ ràng và, trong một trường hợp gần đây, clip khuyến khích trẻ em tự tử.

YouTube, có trụ sở tại San Bruno, Calif., Là một công ty con của Google, một trong những nhà phát triển công ty giàu có và tiên tiến nhất thế giới về trí tuệ nhân tạo và học máy.

Pedro Sebastos, một nhà nghiên cứu về máy học và giáo sư Đại học Washington, cho biết sự thất bại của thuật toán vào thứ Hai "không làm tôi ngạc nhiên chút nào."

Nếu thuật toán nhìn thấy một đoạn video về các cấu trúc cao chìm trong khói và suy ra rằng nó có liên quan đến cuộc tấn công vào Trung tâm Thương mại Thế giới, "điều đó nói lên sự hiểu biết tối tân về hệ thống video sự tương đồng với ngày 9/11. Có một điểm mà điều đó là không thể. "

Nhưng các thuật toán thiếu hiểu biết về bối cảnh của con người hoặc lẽ thường, khiến chúng không được chuẩn bị cho các sự kiện tin tức. YouTube, ông nói, được trang bị kém để khắc phục các vấn đề như vậy bây giờ và có khả năng sẽ vẫn như vậy trong nhiều năm tới.

Họ phải phụ thuộc vào các thuật toán này, nhưng tất cả chúng đều có các chế độ thất bại. Và chúng không thể bay dưới radar nữa, ông Hay Trận nói. Đây không chỉ là Whac-a-Mole. Đây là một trò chơi thua.

Tin tương tự

Xem nhiều

Có thể bạn quan tâm