Facebook Live thông báo ngay lập tức 'Lệnh cấm một lần' - Không còn cảnh báo nào nữa

Khoa Học/Công Nghệ

Thời điểm trùng hợp với các nhà lãnh đạo của Pháp và New Zealand ký kết "Cuộc gọi thành phố" trên phương tiện truyền thông xã hội để theo dõi nội dung tốt hơn, Facebook đã công bố thay đổi chính sách lớn cho Facebook Live. Từ giờ trở đi, bất kỳ ai chia sẻ nội dung độc hại, như tài liệu khủng bố, sẽ phải đối mặt với lệnh cấm ngay lập tức.

© 2016 Bloomberg Tài chính LP

"Hôm nay", Facebook tuyên bố vào tối thứ Ba, "chúng tôi đang thắt chặt các quy tắc áp dụng cụ thể cho [Facebook] Live. Bây giờ chúng tôi sẽ áp dụng chính sách 'một lần đình công' để Sống liên quan đến phạm vi phạm tội rộng hơn."

Như mọi khi, thay đổi chính sách tại Facebook xuất hiện khi áp lực được áp dụng - áp lực đó chắc chắn đang được áp dụng. Và vì vậy, kể từ bây giờ, Facebook giải thích, "ai đó chia sẻ liên kết đến tuyên bố từ một nhóm khủng bố không có ngữ cảnh sẽ ngay lập tức bị chặn sử dụng Live trong một khoảng thời gian nhất định."

Facebook Live là trung tâm của phản ứng dữ dội đối với nội dung truyền thông xã hội vì hai lý do. Đầu tiên, việc phát trực tiếp và chia sẻ hệ quả của các cuộc tấn công nhà thờ Hồi giáo ở New Zealand là tác nhân gây ra làn sóng điều tiết thủy triều hiện nay trên khắp thế giới. Và thứ hai, tính chất thời gian thực, quy mô lớn của nền tảng phát video trực tiếp cho đến nay là nội dung khó nhất mà Facebook phải trả cho cảnh sát - sau sự kiện của Christchurch, đã có rất nhiều lời kêu gọi dịch vụ này được rút ra vì điều này.

Tuần trước, Giám đốc điều hành Facebook Mark Zuckerberg đã gặp Tổng thống Emmanuel Macron của Pháp về các cuộc thảo luận bao trùm chính sách gây tổn hại và nội dung nguy hiểm. Và thông báo này, cho đến nay, những hạn chế nghiêm ngặt nhất mà công ty đã đặt ra cho dịch vụ Live hàng đầu của mình, đã kịp thời trùng với Thủ tướng New Zealand Jacinda Ardern gặp Tổng thống Macron vào thứ Tư. Các nhà lãnh đạo dự kiến ​​sẽ ký "Cuộc gọi tại thành phố", một thỏa thuận không ràng buộc đặt kỳ vọng lên phương tiện truyền thông xã hội để giám sát và báo cáo tốt hơn về các tài liệu độc hại được công bố trên nền tảng của họ.

"Tôi đã nói chuyện trực tiếp với Mark Zuckerberg hai lần và thực sự chúng tôi đã liên lạc tốt với Facebook", Jacinda Ardern nói với CNN hôm thứ Hai. "Lần cuối cùng tôi nói chuyện với anh ấy một vài ngày trước, anh ấy đã hỗ trợ Facebook cho lời kêu gọi hành động này."

Các cuộc tấn công khủng bố ở Christchurch đã là một lời kêu gọi rõ ràng cho quy định trên toàn thế giới. Vào thời điểm các cuộc tấn công, Facebook và ban lãnh đạo của nó đã nổi giận vì phản ứng (thiếu) của họ. Phát trực tiếp được phát sóng mà không được chọn và sau đó được chỉnh sửa và chia sẻ rộng rãi. Sau đó, công ty đổ lỗi cho việc thiếu dữ liệu đào tạo AI và về cơ bản đã cố gắng loại bỏ nó. Họ đánh giá thấp phản ứng toàn cầu sắp xảy ra. Công ty thậm chí còn bảo vệ việc sử dụng độ trễ thời gian trên các nguồn cấp dữ liệu như một sự thỏa hiệp với "tính trực tiếp" của trải nghiệm Facebook Live.

"Sau các vụ tấn công khủng bố kinh hoàng ở New Zealand", công ty cho biết khi thông báo thay đổi chính sách mới nhất này, "chúng tôi đã xem xét những gì chúng tôi có thể làm để hạn chế các dịch vụ của mình không được sử dụng để gây tổn hại hoặc lây lan sự ghét bỏ."

Đó là hai tuần sau sự kiện trước khi một giám đốc của Facebook công khai thừa nhận vấn đề này, với COO Sheryl Sandberg đã viết một bức thư ngỏ tới New Zealand Herald, chấp nhận rằng "chúng tôi đã nghe phản hồi rằng chúng tôi phải làm nhiều hơn - và chúng tôi đồng ý. về cuộc tấn công khủng bố, chúng tôi đang thực hiện ba bước: tăng cường các quy tắc sử dụng Facebook Live, thực hiện các bước tiếp theo để giải quyết sự ghét trên nền tảng của chúng tôi và hỗ trợ cộng đồng New Zealand. "

Vào thứ ba, công ty đã thừa nhận vấn đề này một lần nữa. "Một trong những thách thức mà chúng tôi gặp phải trong những ngày sau vụ tấn công ở thành phố Christchurch là sự phổ biến của nhiều biến thể khác nhau của video về cuộc tấn công. Mọi người - không phải lúc nào cũng cố tình - chia sẻ các phiên bản chỉnh sửa của video, khiến hệ thống của chúng tôi khó phát hiện , "thêm vào đó" mặc dù chúng tôi đã triển khai một số kỹ thuật để cuối cùng tìm thấy các biến thể này, bao gồm cả công nghệ khớp video và âm thanh, chúng tôi nhận ra rằng đây là một lĩnh vực mà chúng tôi cần đầu tư vào nghiên cứu thêm. "

Và vì vậy, Facebook cũng đã công bố quan hệ đối tác mới với Đại học Maryland, Đại học Cornell và Đại học California, Berkeley, để nghiên cứu các kỹ thuật AI để "phát hiện phương tiện bị thao túng qua hình ảnh, video và âm thanh, và để phân biệt giữa người đăng và kẻ thù không cố ý. thao túng video và hình ảnh. "

Facebook đã thừa nhận trong một bài đăng trên blog ngay sau Christchurch rằng "mọi người đã hỏi tại sao trí thông minh nhân tạo không tự động phát hiện video từ cuộc tấn công vào tuần trước. Các hệ thống AI dựa trên 'dữ liệu đào tạo', có nghĩa là bạn cần hàng ngàn ví dụ về nội dung trong để đào tạo một hệ thống có thể phát hiện một số loại văn bản, hình ảnh hoặc video. " Và vì vậy họ cần dựa vào người điều hành và báo cáo người dùng, nhưng "trong toàn bộ chương trình phát sóng trực tiếp, chúng tôi không nhận được một báo cáo người dùng nào."

"Xử lý các mối đe dọa này", công ty cho biết hôm thứ ba, "đòi hỏi phải đổi mới kỹ thuật để đi trước loại hình thao túng phương tiện truyền thông mà chúng ta đã thấy sau khi một số người sửa đổi video để tránh bị phát hiện để đăng lại sau khi nó bị gỡ xuống Điều này sẽ đòi hỏi nghiên cứu hướng đến ngành công nghiệp và học thuật. Cuối cùng, chúng tôi cũng đầu tư 7,5 triệu đô la vào quan hệ đối tác nghiên cứu mới với các học giả hàng đầu từ ba trường đại học, được thiết kế để cải thiện công nghệ phân tích hình ảnh và video. "

Đây là rất nhiều một bước đi đúng hướng. Với quy mô dữ liệu tại Facebook, nếu công ty mở nền tảng nghiên cứu học thuật về giám sát nội dung trên các nguồn cấp dữ liệu trực tiếp quy mô lớn, nó sẽ mang lại kết quả.

"Công việc này", họ giải thích, "sẽ rất quan trọng đối với những nỗ lực rộng lớn hơn của chúng tôi chống lại các phương tiện bị thao túng, bao gồm các tác phẩm sâu (video cố tình thao túng để mô tả các sự kiện không bao giờ xảy ra). để đánh lừa các hệ thống của chúng ta như chúng ta đã thấy xảy ra sau vụ tấn công ở thành phố Christchurch. "

Như Fast Company đã báo cáo ngay sau khi ra mắt, "Live đã được quảng cáo là dự án thú cưng của Mark Zuckerberg, một người mà anh ta 'bị ám ảnh'. Một số người tin rằng Live là chìa khóa cho một tương lai của Facebook, một tài nguyên sẽ giúp nó cạnh tranh với truyền hình phát sóng."

Nhưng, hơi ngạc nhiên, cung cấp cho toàn thế giới một nền tảng để phát sóng trực tiếp cho bất cứ ai, bất cứ nơi nào đã không chứng minh được một ý tưởng tuyệt vời như vậy mà không có sự thi hành nghiêm ngặt. Thay đổi chính sách này, mặc dù muộn màng, hoàn toàn không thể tránh khỏi. Mặc dù "phần lớn mọi người sử dụng Facebook Live cho các mục đích tích cực", Facebook cho biết. "Sống có thể bị lạm dụng và chúng tôi muốn thực hiện các bước để hạn chế sự lạm dụng đó."

Những thay đổi tại Facebook còn lâu mới được thực hiện. Chúng tôi đang ở giai đoạn đầu tiên của công ty và lĩnh vực truyền thông xã hội rộng lớn hơn đang làm việc để ngăn chặn sự thay đổi thực sự mang tính cách mạng, chẳng hạn như việc chia tay các công ty mà Chris Hughes, người đồng sáng lập của Facebook đã kêu gọi vào tuần trước. Và không có gì rõ ràng rằng họ sẽ thành công.

Có thể bạn quan tâm