Hầu hết mọi người trải qua cuộc đời mà không gặp phải những kẻ thù thực sự - những thực thể tích cực hoạt động chống lại lợi ích của họ với thời gian và nguồn lực chuyên dụng. Thực tế này khiến nhiều người không chuẩn bị sẵn sàng cho các mối đe dọa tinh vi, bao gồm khả năng bị thao túng bởi các hệ thống trí tuệ nhân tạo.
Quan sát này làm nổi bật một khoảng trống cơ bản trong kinh nghiệm của con người. Các tương tác hàng ngày thường liên quan đến các đối tác giao dịch thay vì kẻ thù. Khi mua bánh donut, cả khách hàng và người bán đều muốn giao dịch diễn ra - họ chỉ đang thương lượng về điều kiện. Ngay cả các hoạt động cạnh tranh như cờ vua cũng có chung mục tiêu chơi một ván hay, bất chấp điều kiện thắng thua đối lập.
Các loại tương tác được thảo luận:
| Loại tương tác | Đặc điểm | Mức độ đối kháng |
|---|---|---|
| Đối tác giao dịch (người bán bánh donut) | Mục tiêu giao dịch chung, sở thích giá cả khác nhau | Thấp |
| Trò chơi điện tử đơn người | Đối thủ mô phỏng, thực chất là hợp tác | Không có |
| Cờ vua trực tuyến | Trò chơi tổng bằng không nhưng có mong muốn chơi chung | Trung bình |
| Hoạt động của IRA Nga | Đối lập chuyên nghiệp toàn thời gian, phá hoại sáng tạo | Cao |
| Khả năng thao túng của AI | Khả năng chưa biết, có thể vượt trội con người | Rất cao |
Ví dụ về Cơ quan Nghiên cứu Internet Nga
Các cuộc thảo luận cộng đồng đã tập trung nhiều vào Cơ quan Nghiên cứu Internet Nga ( IRA ) như một ví dụ điển hình về hành động thù địch thực sự. Tổ chức này dành nguồn lực toàn thời gian để tạo ra bất đồng giữa người Mỹ trên mạng, đại diện cho loại sự đối kháng bền bỉ, sáng tạo mà hầu hết mọi người không bao giờ gặp phải.
Một người bình luận đã lưu ý về thách thức trong việc phát triển các biện pháp đối phó hiệu quả, mô tả nó như việc phá hoại từ bên trong mà chưa kích hoạt phản ứng miễn dịch phù hợp của xã hội. Khó khăn một phần nằm ở việc phân biệt giữa diễn ngôn tự nhiên thực sự và xung đột được tạo ra.
Những tác động đến An toàn AI gây ra sự hoài nghi
Mối liên hệ giữa sự mù quáng về kẻ thù và an toàn AI đã gây ra tranh luận trong cộng đồng. Một số người bác bỏ những lo ngại này như chủ nghĩa thần bí lý tính, đặt câu hỏi về những cảnh báo mơ hồ về khả năng của AI mà không có bằng chứng cụ thể.
Chúng ta không biết những gì chúng ta không biết, và chúng ta là những con người ngớ ngẩn như vậy, do đó... AI sẽ giết chết tất cả chúng ta là tất cả những gì tôi có thể hiểu từ nó.
Các nhà phê bình chỉ ra các thí nghiệm nơi mọi người đã thành công trong việc chống lại sự thuyết phục của AI khi được đưa ra các động cơ thích hợp và hướng dẫn rõ ràng. Họ lập luận rằng nếu các kẻ lừa đảo chuyên nghiệp gặp khó khăn trong việc thao túng mọi người thông qua văn bản, thì các hệ thống AI cũng đối mặt với những hạn chế tương tự.
Các Điểm Tranh Luận Trong Cộng Đồng:
- Hoài Nghi Về Thí Nghiệm AI Box: Các nhà phê bình đặt câu hỏi về những tuyên bố liên quan đến khả năng thuyết phục của AI, trích dẫn các thí nghiệm cho thấy con người có thể chống lại thành công khi được tạo động lực phù hợp
- Chủ Nghĩa Thần Bí Lý Tính: Thuật ngữ được sử dụng để mô tả những cảnh báo mơ hồ về an toàn AI mà không có bằng chứng cụ thể
- Thách Thức Phát Hiện: Khó khăn trong việc phân biệt giữa diễn ngôn tự nhiên và xung đột được tạo ra một cách có chủ đích trên mạng
- Cơ Chế Phản Ứng: Nhu cầu về "phản ứng miễn dịch" của xã hội đối với các hoạt động thông tin đối nghịch
- Cân Bằng Hoang Tưởng: Thách thức trong việc duy trì sự cảnh giác phù hợp mà không rơi vào tư duy hoang tưởng
Vấn đề Hoang tưởng
Một thách thức chính xuất hiện trong việc xác định khi nào sự cảnh giác vượt qua thành tư duy hoang tưởng. Trong hoàn cảnh bình thường, việc liên tục xem xét hành động thù địch thực sự sẽ là ảo tưởng. Tuy nhiên, những kẻ thù thực sự tồn tại, tạo ra sự cân bằng khó khăn giữa sự thận trọng hợp lý và nghi ngờ quá mức.
Cộng đồng nhận ra điều này tạo ra cả chi phí cảm xúc và xã hội. Việc nêu lên mối lo ngại về hành động tiềm tàng của kẻ thù tiêu tốn băng thông tinh thần và có thể làm tổn hại các mối quan hệ, ngay cả khi những lo ngại đó có thể được biện minh.
Phổ của các mối quan hệ thù địch
Một số thành viên cộng đồng đề xuất xem các mối quan hệ thù địch như tồn tại trên một phổ, từ cạnh tranh lành mạnh đến thù hận tách biệt. Chìa khóa nằm ở việc hiểu một mối quan hệ cụ thể rơi vào đâu và phản ứng phù hợp - cố gắng di chuyển các kẻ thù về phía kết thúc lành mạnh hơn khi có thể.
Cuộc thảo luận tiết lộ một thách thức rộng lớn hơn: hầu hết mọi người thiếu khung để nhận biết và phản ứng với các tình huống thù địch thực sự. Khoảng trống này trở nên đặc biệt đáng lo ngại khi các hệ thống AI trở nên tinh vi hơn và các tác nhân thù địch tiềm tàng - dù là con người hay nhân tạo - phát triển các kỹ thuật thao túng mới.
Giải pháp có thể đòi hỏi việc phát triển các cơ chế nhận thức và phản ứng tập thể tốt hơn, mặc dù cộng đồng vẫn chia rẽ về việc những cơ chế đó nên trông như thế nào và ai nên thực hiện chúng.
Tham khảo: I've Never Had a Real Adversary