Quyền kiểm soát AI và định hướng thông tin qua góc nhìn của Campbell Brown

Trong bối cảnh trí tuệ nhân tạo (AI) đang dần trở thành hệ điều hành cho mọi luồng thông tin trên thế giới, câu hỏi về việc ai là người nắm quyền định đoạt nội dung mà AI truyền tải tới người dùng trở nên cấp thiết hơn bao giờ hết. Campbell Brown, cựu lãnh đạo mảng tin tức của Meta, đang dấy lên hồi chuông cảnh báo về việc lịch sử đang lặp lại khi các mô hình ngôn ngữ lớn (LLM) bắt đầu định hình nhận thức của nhân loại. Không còn đứng ngoài cuộc, bà đã sáng lập Forum AI với sứ mệnh đánh giá lại cách các mô hình nền tảng xử lý những vấn đề có độ nhạy cảm cao, nơi ranh giới giữa sự thật và định kiến trở nên mong manh.

Khi quyền kiểm soát AI đối diện với các chủ đề nhạy cảm

Campbell Brown nhận thấy rằng các công ty công nghệ lớn hiện nay đang quá tập trung vào tối ưu hóa mã nguồn và các bài toán toán học mà vô tình bỏ quên khía cạnh phức tạp nhất: thông tin và kiến thức. Đối với bà, những chủ đề như địa chính trị, sức khỏe tâm thần hay tài chính không thể được giải quyết bằng các thuật toán máy móc đơn thuần, vì đây là những lĩnh vực không có câu trả lời trắng-đen rõ ràng. Sự “lười biếng” trong việc kiểm soát nội dung này không chỉ tạo ra những khoảng trống tri thức mà còn khiến các mô hình AI dễ dàng bị thao túng bởi các nguồn dữ liệu thiếu kiểm chứng hoặc có định kiến chính trị.

Đáng chú ý, các cuộc kiểm định từ Forum AI cho thấy những kết quả không mấy khả quan. Nhiều mô hình AI hàng đầu hiện nay vẫn để lộ những lỗi sai nghiêm trọng như lấy dữ liệu từ các nguồn thông tin có định kiến cực đoan cho những câu chuyện không liên quan, hoặc thiếu đi cái nhìn đa chiều cần thiết. Những “kẽ hở” này trong hệ sinh thái số cũng tương tự như cách mà an ninh mạng từng bị đe dọa, khiến những vấn đề như tấn công Signal từ hacker Nga: Lời cảnh báo về an ninh bảo mật số trở thành bài học nhãn tiền về việc công nghệ nếu không được bảo vệ đúng cách sẽ trở thành con dao hai lưỡi.

Từ sự thất bại của mạng xã hội đến trách nhiệm của công nghệ

Nhiều năm làm việc tại Facebook đã cho Campbell Brown cái nhìn sâu sắc về cái giá phải trả khi một nền tảng chỉ ưu tiên tối ưu hóa sự tương tác thay vì sự chính xác. Việc các chương trình kiểm chứng thông tin bị khai tử trước áp lực lợi nhuận là minh chứng rõ nhất cho sự lệch lạc về ưu tiên của các tập đoàn công nghệ lớn. Hiện nay, trong nỗ lực cắt giảm nguồn lực để dồn vốn cho AI, như trường hợp cắt giảm nhân sự tại Cisco để dồn lực cho cuộc đua trí tuệ nhân tạo, các doanh nghiệp thường vô tình tạo ra những “lỗ hổng” về chất lượng nội dung trong quá trình chạy đua vũ trang công nghệ.

Để khắc phục tình trạng này, Forum AI đã bắt đầu xây dựng các “thẩm phán AI” được đào tạo dựa trên sự tư vấn của các chuyên gia đầu ngành từ ngoại giao đến an ninh mạng. Mục tiêu là đạt được sự đồng thuận lên tới 90% giữa máy móc và trí tuệ con người. Đây không chỉ là vấn đề kỹ thuật mà là cuộc đấu tranh để định nghĩa lại sự thật trong thời đại số. Khi người dùng ngày càng phụ thuộc vào chatbot để trả lời những câu hỏi quan trọng, việc cung cấp câu trả lời sai lệch hoặc định hướng sai không còn là lỗi kỹ thuật nhỏ, mà là sự đe dọa tới nhận thức của cộng đồng.

Quyền kiểm soát AI và áp lực từ thị trường doanh nghiệp

Thực tế cho thấy một nghịch lý là trong khi người dùng phổ thông vẫn phải đối mặt với những câu trả lời “rác” từ chatbot, thì thị trường doanh nghiệp – những đơn vị sử dụng AI cho các quyết định tín dụng, bảo hiểm và nhân sự – lại đang đòi hỏi sự chính xác tuyệt đối để tránh trách nhiệm pháp lý. Đây chính là điểm tựa mà Campbell Brown tin rằng sẽ thúc đẩy sự thay đổi. Khi rủi ro về mặt pháp lý và chi phí sai sót trở nên quá lớn, doanh nghiệp sẽ không chấp nhận những kiểm định hời hợt hiện nay.

Cũng giống như việc người dùng đòi hỏi tính riêng tư trong các nền tảng tin nhắn khi họ phải thực hiện việc tắt tính năng Instants trên Instagram và thu hồi ảnh chia sẻ nhầm, thị trường hiện đang bắt đầu đòi hỏi sự minh bạch trong quy trình kiểm định AI. Nếu các công ty AI không sớm thay đổi cách họ “huấn luyện” đạo đức và sự chính xác cho mô hình của mình, họ sẽ sớm bị đào thải bởi chính các tiêu chuẩn kiểm định khắt khe mà giới doanh nghiệp đang dựng lên. Quyền quyết định nội dung AI truyền tải không nên nằm trong tay các thuật toán vô tri, mà phải nằm trong tay những chuyên gia thực thụ, những người hiểu rõ sự phức tạp của thế giới thực.

Bài viết đã được biên tập lại từ nguồn: techcrunch.com