Artificial General Intelligence và sự hoài nghi về niềm tin đối với lãnh đạo công nghệ

Sự trỗi dậy của Artificial General Intelligence (AGI) đang đặt ra một bài toán hóc búa không chỉ về mặt kỹ thuật mà còn nằm ở triết lý quản trị tương lai nhân loại. Trong bối cảnh các ông lớn công nghệ đang chạy đua vũ trang, tỷ phú truyền thông Barry Diller đã có những chia sẻ thẳng thắn tại sự kiện của The Wall Street Journal. Dù bày tỏ sự tin tưởng vào tư cách cá nhân của Sam Altman, CEO của OpenAI, Diller nhấn mạnh rằng trong kỷ nguyên AGI, lòng tin cá nhân gần như trở nên vô nghĩa trước những ẩn số khổng lồ mà công nghệ này mang lại.

Artificial General Intelligence và giới hạn của lòng tin

Thực tế cho thấy một nghịch lý là những người trực tiếp đứng ở tâm điểm của cuộc cách mạng AI, bao gồm cả những nhà lãnh đạo như Sam Altman, cũng đang bước đi trong màn sương mù. Diller cho rằng chúng ta đang đối mặt với một thực thể có khả năng vượt xa sự kiểm soát của con người, nơi mà ngay cả các nhà sáng tạo cũng không thể lường trước các hệ quả xảy ra tiếp theo. Khi AGI tiến gần hơn tới cột mốc hoàn thiện, khái niệm lòng tin vào con người trở thành một biến số không còn giữ vai trò chủ đạo.

Nhìn sâu vào bản chất, việc các tập đoàn công nghệ lớn liên tục đổ hàng tỷ USD vào hệ sinh thái AI – một xu hướng tương tự như cách các ông lớn bán dẫn đang phụ thuộc vào chuỗi cung ứng châu Á để tối ưu chi phí, như đã được phân tích trong bài Chuỗi cung ứng tại châu Á và sự phụ thuộc chi phí của Nvidia – cho thấy sự quyết tâm không thể đảo ngược của tiến trình phát triển công nghệ. Tuy nhiên, dù các khoản đầu tư có thành công hay không, bánh xe lịch sử đã chuyển động và không ai có thể dừng lại.

Vai trò của rào cản kiểm soát trong kỷ nguyên AGI

Đáng chú ý, Diller cảnh báo rằng nếu nhân loại không sớm thiết lập các rào cản kỹ thuật và pháp lý đủ mạnh, quyền năng kiểm soát sẽ chuyển dịch sang chính thực thể AGI. Một khi “cỗ máy” tự thiết lập các quy tắc của riêng nó, mọi nỗ lực can thiệp từ con người sẽ trở nên vô nghĩa. Điều này đặt ra yêu cầu cấp thiết về việc quản trị công nghệ, không chỉ dừng lại ở các báo cáo tài chính hay các kỳ vọng về hiệu suất kinh doanh giống như tâm điểm chú ý trên thị trường chứng khoán, nơi các chỉ số như S&P 500 đang liên tục ghi nhận những nhịp đập mạnh mẽ qua bài viết S&P 500 lại lập đỉnh mới trong một phiên giao dịch bùng nổ.

Cũng cần nhìn nhận rằng, trong bối cảnh các doanh nghiệp niêm yết đang mong chờ những thay đổi về khung pháp lý để thúc đẩy đổi mới, việc cân bằng giữa tốc độ phát triển và tính an toàn là bài toán khó. Như đã đề cập tại bài viết Báo cáo quý với doanh nghiệp niêm yết: Cánh cửa nới lỏng quy định tại Mỹ, sự nới lỏng hay thắt chặt quy định đều có tác động trực tiếp đến khả năng thích ứng của các tập đoàn trong tương lai. Đối với AGI, các rào cản này không chỉ để quản lý kinh doanh mà còn để bảo vệ tồn vong của xã hội.

Trong mắt Diller, việc Sam Altman là một người tử tế không phải là chiếc chìa khóa đảm bảo an toàn cho thế giới. Khi đứng trước ngưỡng cửa của một cuộc cách mạng thay đổi gần như mọi thứ, lòng tin chỉ là thứ yếu, còn sự thấu thị về những hệ lụy tiềm tàng mới là yếu tố định đoạt tương lai. Chúng ta đang tiến vào một vùng đất chưa được khai phá, nơi sự ngạc nhiên của những nhà sáng tạo cũng chính là nỗi lo sợ lớn nhất của nhân loại.

Bài viết đã được biên tập lại từ nguồn: techcrunch.com