Báo cáo kiểm toán môi trường của Mistral tiết lộ dấu chân carbon thực sự của AI - Và nó không như bạn nghĩ

Nhóm Cộng đồng BigGo
Báo cáo kiểm toán môi trường của Mistral tiết lộ dấu chân carbon thực sự của AI - Và nó không như bạn nghĩ

Công ty AI của Pháp Mistral đã công bố báo cáo kiểm toán môi trường toàn diện đầu tiên về một mô hình ngôn ngữ lớn, cung cấp dữ liệu cụ thể về tác động môi trường của AI. Nghiên cứu này, được thực hiện với sự hợp tác của công ty tư vấn bền vững Carbone 4 và Cơ quan Chuyển đổi Sinh thái Pháp, đã xem xét mô hình Large 2 của Mistral trong 18 tháng đầu hoạt động.

Những phát hiện này thách thức các giả định phổ biến về tác hại môi trường của AI. Trong khi các con số tổng hợp có vẻ đáng kể, tác động trên mỗi truy vấn lại kể một câu chuyện khác đã gây ra cuộc tranh luận sôi nổi trong cộng đồng công nghệ.

Cuộc kiểm toán môi trường của Mistral tiết lộ dấu chân carbon liên quan đến hoạt động AI, làm dấy lên các cuộc tranh luận về chi phí môi trường của nó
Cuộc kiểm toán môi trường của Mistral tiết lộ dấu chân carbon liên quan đến hoạt động AI, làm dấy lên các cuộc tranh luận về chi phí môi trường của nó

Các truy vấn AI cá nhân có tác động môi trường nhỏ đến ngạc nhiên

Báo cáo kiểm toán phát hiện rằng một lời nhắc AI tạo ra khoảng 400 token (tương đương một trang văn bản) chỉ sản sinh 1.14 gram CO2 và tiêu thụ 45 mililit nước. Để có cái nhìn tổng quan, điều này tương đương với việc xem 10 giây video trực tuyến ở Mỹ, hoặc ngồi trong cuộc gọi Zoom trong 4-27 giây.

Các cuộc thảo luận trong cộng đồng đã nêu bật cách những con số này so sánh thuận lợi với nhiều hoạt động kỹ thuật số hàng ngày. Một phân tích lưu ý rằng việc viết một email 10 phút được 100 người nhận đọc tạo ra lượng khí thải tương đương với 22.8 lời nhắc AI. Điều này đã khiến một số người dùng đặt câu hỏi liệu những lo ngại về môi trường xung quanh việc sử dụng AI có tương xứng với tác động thực tế hay không.

Chi phí môi trường cho mỗi truy vấn

  • Phát thải CO2: 1,14 gram cho mỗi prompt 400 token
  • Tiêu thụ nước: 45 mililit cho mỗi prompt
  • Các hoạt động tương đương: 10 giây xem video streaming tại Mỹ, 4-27 giây gọi Zoom

Chi phí môi trường thực sự nằm ở việc huấn luyện và quy mô

Trong khi các truy vấn cá nhân có vẻ khiêm tốn, tác động tích lũy lại kể một câu chuyện khác. Trong 18 tháng, hoạt động của Mistral tạo ra 20.4 nghìn tấn khí thải CO2 - tương đương với 4,500 ô tô chạy trong một năm - và tiêu thụ 281,000 mét khối nước, đủ để lấp đầy 112 bể bơi Olympic.

Báo cáo kiểm toán tiết lộ rằng 85.5% khí thải CO2 và 91% lượng nước tiêu thụ xảy ra trong quá trình huấn luyện mô hình và các hoạt động suy luận, thay vì từ việc xây dựng cơ sở hạ tầng hoặc thiết bị người dùng cuối. Phát hiện này đã gây ra cuộc tranh luận về việc liệu chi phí môi trường nên được xem như một chi phí huấn luyện một lần được chia sẻ giữa tất cả người dùng, hay như một phần của xu hướng gia tăng.

Tác động môi trường của Mistral Large 2 (18 tháng)

  • Phát thải CO2: 20,4 kiloton (tương đương 4.500 xe hơi/năm)
  • Tiêu thụ nước: 281.000 mét khối (112 bể bơi Olympic)
  • Tỷ lệ huấn luyện/suy luận: 85,5% lượng CO2, 91% lượng tiêu thụ nước

Cộng đồng tranh luận về quy mô và tăng trưởng tương lai

Các cuộc thảo luận trong cộng đồng công nghệ đã tập trung mạnh vào câu hỏi về khả năng mở rộng. Trong khi một số cho rằng việc sử dụng AI hiện tại chỉ chiếm một phần nhỏ trong tổng lượng khí thải toàn cầu - có thể chỉ 0.000026% sản lượng khí nhà kính trên toàn thế giới - những người khác chỉ ra các dự báo tăng trưởng nhanh có thể thay đổi đáng kể tính toán này.

ChatGPT đã từ 0 lên 100 triệu người dùng trong vài tháng, tất cả đều gửi hàng trăm truy vấn.

Cuộc tranh luận đã trở nên gay gắt xung quanh việc mở rộng cơ sở hạ tầng, với các nhà vận hành lớn đang xây dựng các trung tâm dữ liệu AI 10 gigawatt. Với khoảng 1 kilowatt trên mỗi GPU, điều này cho thấy quy mô triển khai vượt xa các ước tính hiện tại, có thể liên quan đến hàng triệu đơn vị xử lý cho một công ty duy nhất.

So sánh với các nghiên cứu khác

  • UC Riverside (GPT-3): ~17ml nước cho mỗi câu hỏi
  • Tạp chí Nature (ChatGPT): trung bình 2,2g CO2 cho mỗi truy vấn
  • Mozilla Foundation: lượng phát thải cuộc gọi Zoom tương đương 4-27 giây

Kêu gọi minh bạch trên toàn ngành

Báo cáo kiểm toán của Mistral đại diện cho cái nhìn hiếm hoi vào dữ liệu môi trường AI thực tế, vì hầu hết các công ty AI lớn chưa công bố các đánh giá môi trường toàn diện. Phương pháp của nghiên cứu tuân theo hướng dẫn của chính phủ Pháp và trải qua đánh giá đồng cấp, tạo độ tin cậy cho các phát hiện.

Tuy nhiên, các chuyên gia lưu ý những hạn chế trong dữ liệu, bao gồm các khoảng trống phương pháp quan trọng và ước tính cho tác động chu kỳ sống của GPU. Hy vọng là các công ty AI khác sẽ theo bước của Mistral , có thể cho phép tạo ra các hệ thống chấm điểm môi trường để giúp người dùng xác định các mô hình hiệu quả nhất.

Báo cáo kiểm toán đến vào thời điểm quan trọng khi việc áp dụng AI đang tăng tốc trên toàn cầu. Trong khi việc sử dụng cá nhân có thể có vẻ khiêm tốn về mặt môi trường, việc mở rộng nhanh chóng của công nghệ đặt ra câu hỏi về tác động tích lũy mà ngành công nghiệp chỉ mới bắt đầu giải quyết thông qua dữ liệu cụ thể và các sáng kiến minh bạch.

Tham khảo: Mistral's new environmental audit shows how much AI is hurting the planet