The Cogito in the Machine: On Being Human in the Age of the Algorithm

Giấc mơ về một người đầy tớ hoàn hảo, một công cụ sống có thể đoán trước nhu cầu và không mệt mỏi thực hiện mong muốn của chúng ta, đã tồn tại lâu đời như chính nền văn minh. Đó là giấc mơ được sinh ra từ những giới hạn về thể chất và tinh thần của chính chúng ta, từ cảm giác dai dẳng rằng ngày của chúng ta quá ngắn ngủi và tâm trí thì quá bộn bề để có thể hoàn thành mọi điều ta khao khát. Từ người golem trong văn hóa dân gian Do Thái đến người hầu cận trung thành trong các trang viên ở Anh, từ lâu chúng ta đã bị mê hoặc bởi ý tưởng về một tác nhân bên ngoài có thể mang lại trật tự cho sự hỗn loạn của cuộc sống, giải phóng chúng ta để theo đuổi những hoài bão cao cả và cao quý hơn. Ngày nay, giấc mơ cổ xưa đó đang được khoác lên một hình hài mới mẻ và mạnh mẽ, dù có phần vô hình: Tác nhân AI (AI Agent).

Các nhà tiên tri của Thung lũng Silicon, thế hệ những người mơ mộng không tưởng mới của chúng ta, nói rằng Tác nhân AI sẽ là đỉnh cao của lịch sử lâu dài của máy tính cá nhân. Nó sẽ là trợ lý không biết mệt mỏi, cộng tác viên xuất sắc, và là bản sao kỹ thuật số của chúng ta. Nó sẽ quản lý lịch trình, trả lời email, đặt lịch hẹn, và thậm chí, người ta nói rằng, nó còn đoán trước được cả những ham muốn của chúng ta, phục vụ chính xác những gì ta muốn ngay cả trước khi ta kịp hình thành suy nghĩ đó. Theo thuật ngữ trong ngành, nó sẽ mang lại một “sự trơn tru, liền mạch” mới mẻ và tuyệt vời cho cuộc sống của chúng ta, làm mượt đi những gồ ghề và sự thiếu hiệu quả của cuộc sống thường nhật. Tóm lại, nó sẽ xử lý những công việc tẻ nhạt của cuộc sống, để chúng ta cuối cùng cũng được tự do là chính mình.

Đó là một viễn cảnh hấp dẫn và quen thuộc. Đó cũng chính là viễn cảnh đã được đưa ra cho chúng ta với mỗi làn sóng tự động hóa mới, từ nhà máy đến văn phòng. Và đó là một viễn cảnh, hết lần này đến lần khác, đã được chứng minh là một loại “lừa dối có vẻ vô hại,” một câu chuyện đầy an ủi nhưng che giấu nhiều hơn là tiết lộ. Bởi vì điều thực sự mang tính cách mạng về Tác nhân AI không phải là nó là một loại công cụ mới để làm việc cho chúng ta, mà nó là một loại người quản lý mới để giám sát cuộc sống của chúng ta. Khi chúng ta ủy thác cho một cỗ máy những công việc riêng tư và thường không thấy được trong việc sắp xếp cuộc sống hàng ngày, chúng ta không chỉ đang trút bỏ sức lao động; chúng ta đang trút bỏ cả sự phán xét. Chúng ta đang nhượng lại cho một thuật toán chính những lựa chọn và quyết định mang lại hình hài và ý nghĩa cho sự tồn tại của chúng ta.

Tác nhân AI không phải là một người đầy tớ trung lập và nhân từ. Nó là một chương trình phần mềm, và giống như mọi chương trình phần mềm khác, nó hiện thân cho một chuẩn mực trí tuệ cụ thể. Các giá trị của nó không phải là những giá trị của con người như sự trầm tư, sự tình cờ may mắn, hay cái sự sống lộn xộn và thường kém hiệu quả, mà là các giá trị của máy móc như tốc độ, hiệu quả, và sự tối ưu hóa. Mục đích của tác nhân này không phải là làm phong phú thêm cuộc sống của chúng ta, mà là để tinh giản chúng, biến những ngày của chúng ta thành một chuỗi các thói quen được thực hiện hoàn hảo, để biến chúng ta thành những bánh răng dễ đoán và sinh lời hơn trong cỗ máy xử lý dữ liệu khổng lồ của thời đại kỹ thuật số. Khi chúng ta dần phụ thuộc vào những tác nhân mới này để viết nên kịch bản cho cuộc đời mình, chúng ta có nguy cơ đánh mất khả năng tự chủ, mất đi loại tư duy sâu sắc, phản biện và sáng tạo vốn chỉ có thể nảy sinh từ sự va chạm và thất vọng khi tương tác thực sự với thế giới. Bản ngã được ủy thác là một bản ngã khiếm khuyết. Và đó là một cái giá cho sự tiện lợi mà chúng ta nên hết sức cẩn trọng khi chi trả.