Facebook dùng thuật toán AI để ngăn chặn các cuộc xung đột
Trong cuộc sống, sẽ có lúc bạn không thể kiềm chế được cơn nóng giận của mình. Điều này gây ra tác hại cho chính bạn và những người khác. Kiểm soát cơn tức giận thực sự rất khó, nhưng không phải là không thể. Chỉ cần bạn hình thành thói quen kiềm chế cảm xúc thì cơn tức giận sẽ không xảy ra thường xuyên và được kiểm soát tốt. Ngày này với sự phát triển của mạng xã hội thì con người ta còn chìm đắm trong một thế giới ảo nữa. Mọi người trò chuyện, trao đổi với nhau qua internet. Cũng bởi vậy mà những cuộc xung đột trên mạng xã hội không phải là hiếm.
Mới đây Facebook đã sử dụng AI trong việc kiếm chế cảm xúc người dùng. Nếu bạn muốn biết chi tiết về công cụ này hoạt động ra sao, các bạn hãy theo dõi bài chia sẻ dưới đây của chúng tôi ngay nhé!
Mục lục
Thuật toán AI được Facebook để kiềm chế người nóng giận
Thuật toán AI được Facebook thử nghiệm có thể phát hiện những cuộc tranh cãi trong hội nhóm. Sau đó báo cáo cho quản trị viên để họ kịp thời can thiệp. Theo CNN, Facebook mới tung ra một số phần mềm hỗ trợ hơn 70 triệu quản trị viên trong các hội nhóm trên nền tảng của mình. Trong đó, hệ thống AI mới được Facebook phát triển có thể phát hiện các vụ xung đột, cãi vã trên các hội nhóm. Công cụ “cảnh báo xung đột” dựa trên thuật toán AI sẽ thông báo đến các quản trị viên của nhóm về một nội dung “gây tranh cãi” hoặc “không lành mạnh”. Mạng xã hội ngày có 2,85 tỷ người dùng hàng tháng; với khoảng 1,8 tỷ người đang hoạt động trong hàng chục triệu nhóm khác nhau.
Trong nhiều năm, các nền tảng như Facebook và Twitter ngày càng dựa vào AI để xác định phần lớn những gì người dùng trực tuyến chia sẻ bằng các công cụ phát hiện câu chữ có tính chất gây thù hận trên dòng thời gian. Điều này có thể hỗ trợ các nhà quản lý hội nhóm dễ dàng hơn trong việc kiểm duyệt; cũng như can thiệp kịp thời để tránh các xung đột không đáng có.
Một số nhược điểm của AI – Chưa hiểu được sự tinh tế của ngôn ngữ
Tuy nhiên, đôi lúc AI vẫn khá lúng túng trong việc hiểu được sự tinh tế của ngôn ngữ trong những ngữ cảnh khác nhau. Hơn nữa, hệ thống kiểm duyệt bí mật của AI cũng có thể khiến người dùng cảm thấy bị tổn thương. Phát ngôn viên của Facebook cho biết AI của công ty sẽ sử dụng một số tín hiệu từ các cuộc trò chuyện để xác định thời điểm gửi cảnh báo xung đột. Bao gồm thời gian trả lời bình luận và lượng bình luận trên một bài đăng. Ông cho biết một số quản trị viên đã thiết lập cảnh báo từ khóa có thể phát hiện các chủ đề có thể dẫn đến tranh luận.
Nếu một quản trị viên nhận được cảnh báo xung đột; họ có thể thực hiện các hành động làm chậm các cuộc trò chuyện với hi vọng làm dịu người dùng. Những động thái này có thể bao gồm hạn chế tạm thời tần suất đăng bài bình luận của một số thành viên trong nhóm và xác định tốc độ nhận xét có thể được thực hiện trên các bài đăng cá nhân.
Những điều AI sẽ gửi đến quản trị viên nhóm
Trong một cuộc tranh cãi giả mà Facebook thực hiện; một người dùng đã nóng giận với những từ ngữ tranh cãi khó nghe. Ví dụ như “những con chó của người khác”, “im đi, thật ngu ngốc”; “nếu điều vô nghĩa này xảy ra, tôi sẽ rời khỏi nhóm”… Một thông báo sẽ được gửi đến quản trị viên với thanh tiêu đề: “Cảnh báo kiểm duyệt”. Bên dưới là những từ khoá có liên quan đến vấn đề đang được tranh cãi. Tiếp đến là một khung cho phép quản trị viên cài đặt thời gian. Mục đích để hạn chế bình luận với các tài khoản. Ngoài ra công cụ này còn cho phép hạn chế bình luận của một thành viên theo các chủ đề; trong khoảng thời gian tính bằng ngày hoặc thậm chí nhiều năm.
Công cụ này vẫn đang trong giai đoạn thử nghiệm. Facebook chưa tuyên bố thời gian phát hành chính thức cho người dùng toàn cầu. Hi vọng nếu ổn thảo, những cuộc xung đột sẽ hạn chế hơn. Đó cũng là nhiều người đang mong muốn!