DOGE và rủi ro pháp lý khi lạm dụng ChatGPT

Việc sử dụng ChatGPT trong các quy trình quản trị công không còn là viễn cảnh xa vời, nhưng khi Department of Government Efficiency (DOGE) áp dụng công cụ này để cắt giảm hơn 100 triệu USD ngân sách trợ cấp, hệ quả để lại là một phán quyết pháp lý đầy tranh cãi. Thẩm phán Tòa án quận Colleen McMahon mới đây đã đưa ra kết luận khẳng định quy trình mà DOGE thực hiện là vi hiến. Bản án dài 143 trang đã vạch trần cách thức vận hành mang tính máy móc, thiếu kiểm soát của DOGE khi dựa vào thuật toán của mô hình ngôn ngữ lớn để sàng lọc các dự án, từ đó vô tình tạo ra những rào cản pháp lý khó tháo gỡ.

Cơ chế DOGE và rủi ro pháp lý từ thuật toán

Bản chất của các hệ thống AI tạo sinh như ChatGPT là xử lý ngôn ngữ dựa trên các xác suất thống kê từ tập dữ liệu khổng lồ. Tuy nhiên, khi DOGE sử dụng ChatGPT để xác định xem một khoản trợ cấp có liên quan đến các tiêu chuẩn về đa dạng, công bằng và hòa nhập (DEI) hay không, cơ quan này đã đặt một quy trình hành chính quan trọng vào tay một mô hình không được thiết kế cho mục đích ra quyết định mang tính định kiến. Thực tế cho thấy một nghịch lý là sự minh bạch vốn có của công nghệ lại trở nên mờ mịt khi nó được áp dụng vào những quyết định mang tính nhân văn. Đáng chú ý, phán quyết của tòa án nhấn mạnh rằng việc dựa vào sự hiện diện của các đặc điểm được bảo vệ để loại bỏ nguồn tài trợ từ Quỹ Quốc gia về Nhân văn (NEH) đã vượt quá thẩm quyền và nguyên tắc hiến pháp.

Nhìn sâu vào bản chất của sự tự động hóa trong quản trị

Sự cố này đặt ra dấu hỏi lớn về lộ trình ứng dụng trí tuệ nhân tạo trong các bộ máy quản lý. Giống như cách các ngành công nghiệp khác đang phải đối mặt với bài toán kiểm soát thuật toán, việc triển khai công nghệ đòi hỏi một hệ sinh thái kiểm chứng nghiêm ngặt. Nếu như trong lĩnh vực hiển thị, công nghệ Quantum dot đang định hình tiêu chuẩn chất lượng hình ảnh nhờ sự kiểm soát chính xác về vật liệu, thì trong quản trị số, sự chính xác của thuật toán cũng cần được đặt trong các “ma trận” an toàn pháp lý. Điều này không chỉ là câu chuyện của riêng DOGE, mà còn là bài học về quản trị rủi ro khi tích hợp AI vào những quy trình nhạy cảm, tương tự như những gì thị trường dịch vụ giám sát an ninh mạng đang phải nỗ lực đạt được để bảo vệ dữ liệu trước các cuộc tấn công tinh vi.

Hơn thế nữa, những sai lầm trong việc áp dụng mô hình ngôn ngữ lớn còn cho thấy sự cần thiết của con người trong các mắt xích quyết định cuối cùng. Khi công nghệ trở thành một công cụ thay thế cho tư duy phản biện, những thiên kiến vốn có trong dữ liệu huấn luyện của AI sẽ dễ dàng bị khuếch đại, dẫn đến các quyết định bất công. Tòa án đã khẳng định việc DOGE sử dụng ChatGPT theo cách thức hiện tại là không phù hợp, thậm chí là bất hợp pháp, tạo nên tiền lệ quan trọng cho các tranh chấp tương lai liên quan đến sự can thiệp của thuật toán vào các quyền cơ bản.

Bài viết đã được biên tập lại từ nguồn: theverge.com