Ngành công nghiệp trí tuệ nhân tạo đang đứng trước ngã ba đường khi những lo ngại gia tăng về cả trách nhiệm của doanh nghiệp và tác động nhận thức từ việc áp dụng AI rộng rãi. Những diễn biến gần đây làm nổi bật căng thẳng ngày càng tăng giữa các công ty AI và truyền thông truyền thống, trong khi nghiên cứu mới tiết lộ những tác động đáng lo ngại đối với nhận thức con người khi sử dụng các mô hình ngôn ngữ lớn như ChatGPT.
Lãnh Đạo OpenAI Đối Đầu New York Times Về Quyền Riêng Tư Dữ Liệu
Trong một tập phát sóng trực tiếp của podcast Hard Fork của New York Times, CEO OpenAI Sam Altman và COO Brad Lightcap đã có cuộc tranh luận gay gắt với các host về vụ kiện đang diễn ra giữa các công ty của họ. Altman xuất hiện với thái độ đối đầu, ngay lập tức thách thức các host về hành động pháp lý của NYT chống lại OpenAI và Microsoft. Vụ kiện tập trung vào cáo buộc rằng OpenAI đã sử dụng các bài báo của NYT để huấn luyện các mô hình ngôn ngữ lớn mà không có sự cho phép.
Căng thẳng leo thang khi Altman chỉ trích yêu cầu của NYT đối với OpenAI về việc bảo tồn dữ liệu ChatGPT của người tiêu dùng và thông tin khách hàng API, ngay cả khi người dùng đã yêu cầu xóa hoặc đang sử dụng chế độ riêng tư. New York Times đang có lập trường rằng chúng tôi phải bảo tồn nhật ký người dùng ngay cả khi họ đang trò chuyện ở chế độ riêng tư, Altman tuyên bố, định vị OpenAI như một người ủng hộ quyền riêng tư.
 |
|---|
| CEO OpenAI Sam Altman tham gia vào một cuộc thảo luận gay gắt về quyền riêng tư dữ liệu và trách nhiệm của doanh nghiệp trong một tập podcast |
Phản Hồi Sắc Bén Làm Nổi Bật Sự Đạo Đức Giả Trong Ngành
Host NYT Kevin Roose đưa ra phản hồi sắc bén khiến khán giả có phản ứng: Chắc hẳn thật khó khăn khi ai đó làm điều gì đó với dữ liệu của bạn mà bạn không muốn họ làm. Bình luận này gây ra tiếng cười và làm nổi bật sự mỉa mai của một giám đốc điều hành mà công ty của ông đã xây dựng công nghệ bằng cách thu thập một lượng lớn nội dung giờ lại đấu tranh cho quyền riêng tư. Cuộc trao đổi này nhấn mạnh cuộc tranh luận rộng lớn hơn về quyền sở hữu dữ liệu và sự đồng ý trong kỷ nguyên AI.
Nghiên Cứu MIT Tiết Lộ Những Tác Động Nhận Thức Đáng Lo Ngại
Trong khi đó, nghiên cứu mới từ MIT Media Lab đưa ra những phát hiện báo động về tác động nhận thức của việc sử dụng LLM thường xuyên. Nghiên cứu theo dõi hoạt động não bộ của khoảng 60 người tham gia trong ba nhóm: những người chỉ sử dụng LLM, chỉ sử dụng công cụ tìm kiếm truyền thống, và không có hỗ trợ bên ngoài. Kết quả cho thấy người dùng LLM thể hiện kết nối thần kinh yếu hơn đáng kể, cho thấy nỗ lực và sự tham gia nhận thức giảm so với các nhóm khác.
Dữ liệu quét não tiết lộ sự khác biệt đáng kể trong hoạt động thần kinh. Viết với Google search giảm kết nối não lên đến 48%, trong khi sử dụng ChatGPT dẫn đến kết nối thần kinh ít hơn 55%. Có lẽ đáng lo ngại nhất, 83.3% người dùng LLM không thể cung cấp dù chỉ một trích dẫn chính xác từ bài viết của chính họ, và lựa chọn từ ngữ cũng như lập luận bài luận của họ cho thấy sự đa dạng ít hơn nhiều so với nhóm chỉ dùng não.
Kết quả nghiên cứu về kết nối não bộ của MIT:
- Sử dụng tìm kiếm Google: giảm 48% kết nối thần kinh
- Sử dụng ChatGPT: giảm 55% kết nối thần kinh
- Độ chính xác trích dẫn của người dùng LLM: 83.3% không thể cung cấp trích dẫn chính xác từ chính bài viết của họ
- Đối tượng nghiên cứu: ~60 người tham gia chia thành 3 nhóm
- Thời gian nghiên cứu: 4 tháng
Phân Tích Chuyên Gia Cảnh Báo Về Hậu Quả Dài Hạn
Nhà nghiên cứu AI và nhà báo Jing Hu, người đã nghiên cứu những tác động nhận thức này, giải thích rằng sự dễ dàng của việc sử dụng AI thông qua đầu vào ngôn ngữ tự nhiên khiến nó đặc biệt nguy hiểm cho sức khỏe nhận thức dài hạn. Có rất ít cơ chế hình thành khi chỉ sử dụng AI để viết một bài luận, Hu lưu ý, nhấn mạnh cách sự đơn giản của tương tác AI giảm nỗ lực tinh thần cần thiết cho các nhiệm vụ phức tạp.
Nghiên cứu của Hu cho thấy việc sử dụng AI thường xuyên tích cực định hình lại các mô hình tư duy phản biện. Cô quan sát trong kinh nghiệm của chính mình rằng việc bị quyến rũ bởi sự tiện lợi của AI dẫn đến việc vội vã thực hiện các nhiệm vụ và gửi công việc chưa được kiểm tra. Những tác động này mở rộng ra ngoài năng suất cá nhân đến những thay đổi cơ bản trong cách con người xử lý thông tin và giải quyết vấn đề.
Tác động của AI đối với hiệu suất nhận thức:
- Người dùng AI cho thấy khả năng kết nối thần kinh yếu hơn đáng kể
- Giảm nỗ lực nhận thức và mức độ tham gia so với những người không sử dụng AI
- Ít đa dạng trong lựa chọn từ vựng và lập luận trong bài luận
- Sinh viên có thể hoàn thành bài luận 12 tiếng trong vòng 2 tiếng khi sử dụng ChatGPT
- Nhóm chỉ sử dụng não bộ cho thấy sóng não hoạt động tích cực hơn nhiều
Các Tổ Chức Giáo Dục Gặp Khó Khăn Với Việc Tích Hợp
Lĩnh vực giáo dục đối mặt với những thách thức đặc biệt khi các công cụ AI trở nên phổ biến. Một bài báo gần đây của New York Times nêu bật cách sinh viên giờ có thể hoàn thành bài luận 12 tiếng chỉ trong hai tiếng sử dụng ChatGPT, với một giáo sư cảnh báo rằng số lượng lớn sinh viên sẽ ra trường với bằng cấp và vào lực lượng lao động, những người về cơ bản là mù chữ.
Các tổ chức giáo dục thấy mình bị kẹt giữa việc chấp nhận AI như một công cụ mạnh mẽ và duy trì vai trò của họ như trung tâm tạo ra kiến thức. Nhiều trường đang sử dụng AI tạo sinh để phát triển chương trình giảng dạy và đánh giá hiệu suất sinh viên trong khi đồng thời gặp khó khăn trong việc thiết lập các chính sách nhất quán cho việc sử dụng AI của sinh viên.
Tác Động Nơi Làm Việc và Áp Lực Doanh Nghiệp
Thế giới doanh nghiệp đang trải qua những căng thẳng tương tự khi các công ty vội vã triển khai các giải pháp AI. Một số CEO, như Tobi Lütke của Shopify, đã đưa ra các lệnh yêu cầu áp dụng AI toàn cầu, đòi hỏi nhân viên chứng minh tại sao các nhiệm vụ không thể hoàn thành bằng AI trước khi yêu cầu thêm nhân viên hoặc ngân sách. Hu cảnh báo rằng những cách tiếp cận như vậy tạo ra môi trường dựa trên sợ hãi làm nản lòng sự đổi mới và học tập thực sự.
Các công ty như Duolingo, đã định vị mình là AI-first và thay thế nhân viên hợp đồng bằng hệ thống AI, có thể đối mặt với những thách thức đáng kể. Hu dự đoán những tổ chức này sẽ cần tuyển lại nhân viên để giải quyết các lỗi do AI tạo ra và các vấn đề bảo mật, vì mã do AI tạo ra thường chứa các tham chiếu đến cơ sở dữ liệu không tồn tại, phương thức kết nối không an toàn và xử lý lỗi không đầy đủ.
Thách thức trong việc áp dụng AI của các công ty:
- Duolingo định vị là "công ty ưu tiên AI" thay thế nhân viên hợp đồng
- CEO Shopify yêu cầu áp dụng AI toàn diện với các tiêu chuẩn hiệu suất
- Mã code được tạo bởi AI chiếm 25-75% công việc phát triển phần mềm
- Các vấn đề phổ biến với AI coding: tham chiếu bảng không tồn tại, phương thức kết nối không an toàn, xử lý lỗi không đầy đủ
- Các lập trình viên junior thường không thể giải thích được mã code do AI tạo ra
Cân Bằng Đổi Mới Với Sức Khỏe Nhận Thức Con Người
Khi cuộc cách mạng AI tiếp tục, các chuyên gia nhấn mạnh nhu cầu tích hợp có suy nghĩ thay vì thay thế hoàn toàn khả năng con người. Hu ủng hộ việc trì hoãn tích hợp AI trong giáo dục cho đến khi sinh viên phát triển kỹ năng tư duy phản biện độc lập, sử dụng AI như một sự bổ sung thay vì thay thế, và dạy nhận thức về chi phí nhận thức của AI.
Con đường phía trước đòi hỏi nhận ra rằng trong khi AI xuất sắc trong nhận dạng mẫu và các nhiệm vụ thường quy, con người vẫn cần thiết cho việc giải quyết vấn đề phức tạp, tư duy chiến lược và chuyên môn cụ thể theo lĩnh vực. Thách thức nằm ở việc khai thác lợi ích của AI trong khi bảo tồn những khả năng nhận thức khiến chúng ta trở nên độc đáo như con người.