ChuyenSau.comChuyên Sâu
Trí tuệ nhân tạo và xã hội số

Mô hình ngôn ngữ lớn tốn bao nhiêu năng lượng: phân tích khâu huấn luyện và vận hành

Huấn luyện một mô hình lớn tốn điện một lần, nhưng phần vận hành hằng ngày mới là khối tiêu thụ lâu dài. Phân tích hai khâu, nước làm mát và những con số còn mù mờ.

Two technicians walk between tall rows of server racks in a cool data hall, blue status lights glowing softly, wide angle from the end of the aisle, backs to camera

Một mô hình ngôn ngữ lớn tiêu thụ năng lượng ở hai khâu: huấn luyện (chạy hàng nghìn bộ xử lý đồ hoạ liên tục trong nhiều tuần để mô hình học từ dữ liệu) và vận hành (mỗi lần người dùng gửi câu hỏi, máy chủ lại tính toán để trả lời). Huấn luyện tốn điện rất lớn nhưng chỉ một lần cho mỗi phiên bản; vận hành tốn ít cho mỗi câu hỏi nhưng cộng lại qua hàng trăm triệu người dùng mỗi ngày thì về lâu dài thường lớn hơn khâu huấn luyện.

Con số chính xác cho từng mô hình hiện rất khó biết vì các công ty lớn hầu như không công bố. Bài này phân tích những gì đã được đo, những gì chỉ là ước tính, vai trò của nước làm mát, tác động lên lưới điện địa phương, và những tranh luận quanh câu hỏi AI có đang làm chậm mục tiêu giảm phát thải hay không.

Khâu huấn luyện: vì sao tốn điện nhiều đến vậy

Huấn luyện một mô hình ngôn ngữ là quá trình cho mô hình đọc một khối dữ liệu chữ khổng lồ và điều chỉnh hàng tỷ tham số để dự đoán từ tiếp theo ngày càng chính xác. Mỗi lần điều chỉnh là vô số phép nhân ma trận chạy trên các bộ xử lý đồ hoạ chuyên dụng. Mô hình càng lớn và dữ liệu càng nhiều thì số phép tính tăng theo cấp số, kéo theo thời gian chạy máy và điện năng.

Ngoài điện cho bộ xử lý, còn phải tính điện cho bộ nhớ, mạng nội bộ nối các máy với nhau, hệ thống làm mát và các lần chạy thử thất bại trước khi ra được bản cuối. Nhiều phân tích học thuật lưu ý rằng các con số được công bố thường chỉ tính lần huấn luyện cuối cùng, bỏ qua những vòng thử nghiệm trước đó, nên thực tế có thể cao hơn.

Lượng phát thải carbon từ khâu này còn phụ thuộc vào nguồn điện. Cùng một lượng điện, trung tâm dữ liệu chạy bằng thuỷ điện hay điện gió phát thải ít hơn nhiều so với nơi dùng điện than. Vì vậy hai mô hình tiêu thụ điện tương đương có thể có dấu chân carbon chênh nhau nhiều lần. Đây là lý do các nhà nghiên cứu đề nghị công bố cả điện năng lẫn vị trí và cơ cấu nguồn điện, chứ không chỉ một con số phát thải.

Khâu vận hành: từng câu hỏi nhỏ cộng thành khối lớn

Khi một người gõ câu hỏi, máy chủ phải chạy mô hình để sinh ra từng từ của câu trả lời. Mỗi lần như vậy tốn một lượng điện nhỏ, lớn hơn đáng kể so với một lần tra cứu trên máy tìm kiếm truyền thống theo nhiều ước tính, nhưng các con số cụ thể chênh nhau rất nhiều tuỳ mô hình, độ dài câu trả lời và phần cứng. Câu trả lời dài, câu hỏi kèm tệp, hay chế độ "suy nghĩ kỹ" chạy nhiều bước nội bộ đều tốn hơn câu trả lời ngắn.

Điều làm khâu vận hành quan trọng là quy mô. Một mô hình được huấn luyện một lần nhưng phục vụ hàng trăm triệu lượt hỏi mỗi ngày trong nhiều tháng. Khi AI được nhúng vào máy tìm kiếm, phần mềm văn phòng, điện thoại, số lượt gọi tăng lên gấp nhiều lần mà người dùng không cần chủ động mở ứng dụng chat. Nhiều phân tích ngành cho rằng phần vận hành chiếm tỷ trọng ngày càng lớn trong tổng điện năng của AI.

Cũng có xu hướng ngược chiều: các công ty liên tục tối ưu để giảm chi phí mỗi câu trả lời, vì điện là chi phí trực tiếp của họ. Mô hình nhỏ hơn được "chưng cất" từ mô hình lớn, phần cứng chuyên dụng tiết kiệm hơn, kỹ thuật nén giúp mỗi câu trả lời tốn ít điện hơn qua từng năm. Câu hỏi là tốc độ tiết kiệm này có theo kịp tốc độ tăng số lượt dùng hay không.

Những gì đã biết và chưa biết

Bảng dưới phân biệt mức độ chắc chắn của các nhận định thường gặp về năng lượng của AI.

Nhận địnhMức chắc chắnGhi chú
Trung tâm dữ liệu chiếm một phần nhỏ nhưng tăng nhanh trong tổng điện năng thế giớiKhá chắcCơ quan Năng lượng Quốc tế (IEA) theo dõi và công bố định kỳ
AI là động lực chính khiến nhu cầu điện của trung tâm dữ liệu tăngKhá chắcNhiều báo cáo ngành cùng chỉ ra, mức độ cụ thể khác nhau
Điện năng cho mỗi câu hỏi của từng mô hình thương mạiChưa rõCông ty ít công bố; các ước tính độc lập chênh nhau nhiều lần
Vận hành vượt huấn luyện trong tổng điện năng vòng đờiCó khả năngĐúng với mô hình được dùng rộng rãi; chưa có số liệu công khai đầy đủ
AI sẽ làm tăng phát thải toàn cầu một cách đáng kểCòn tranh luậnPhụ thuộc nguồn điện mới xây là gì và AI giúp tiết kiệm ở ngành khác bao nhiêu

Người đọc nên dè chừng các con số "một câu hỏi bằng bao nhiêu chai nước" hay "bằng bao nhiêu lần tra cứu" lan truyền trên mạng. Nhiều con số trong đó là ước tính từ một mô hình cũ, cách đây vài năm, với giả định không nói rõ.

Nước làm mát và áp lực lên địa phương

Ngoài điện, trung tâm dữ liệu còn dùng nước. Máy chủ toả nhiệt liên tục, và nhiều cơ sở dùng tháp giải nhiệt bay hơi để làm mát, nghĩa là một phần nước bị bốc hơi đi chứ không quay lại nguồn. Lượng nước dùng phụ thuộc khí hậu nơi đặt trung tâm, công nghệ làm mát và mùa trong năm. Ngoài ra còn lượng nước "gián tiếp" dùng ở nhà máy điện cung cấp điện cho trung tâm.

Ở các vùng khô hạn, việc xây trung tâm dữ liệu lớn đã gây tranh cãi với cộng đồng địa phương vì cạnh tranh nguồn nước sinh hoạt và nông nghiệp. Một số công ty chuyển sang làm mát bằng chất lỏng khép kín hoặc dùng nước tái chế, đổi lại tốn thêm điện hoặc chi phí đầu tư. Không có lựa chọn nào miễn phí: giảm nước thường tăng điện và ngược lại.

Áp lực lên lưới điện cũng mang tính địa phương. Một trung tâm dữ liệu lớn có thể tiêu thụ lượng điện tương đương một thành phố nhỏ, tập trung ở một điểm. Khi nhiều trung tâm mọc lên quanh một khu vực, công ty điện phải đầu tư đường dây, trạm biến áp và nguồn phát mới, và đôi khi chi phí đó phân bổ một phần vào giá điện chung. Đây là lý do một số nơi đã tạm dừng cấp phép cho trung tâm dữ liệu mới để đánh giá khả năng của lưới.

AI có làm chậm mục tiêu giảm phát thải không: hai luận điểm

Luận điểm lo ngại. Nhu cầu điện tăng nhanh khiến một số nơi phải kéo dài tuổi thọ nhà máy điện khí hoặc than đã định đóng, vì điện tái tạo chưa kịp xây đủ. Một số công ty công nghệ lớn công bố phát thải tăng so với năm gốc dù đã cam kết giảm, và nêu trung tâm dữ liệu cho AI là nguyên nhân chính. Ngoài ra còn có hiệu ứng "càng rẻ càng dùng nhiều": mỗi câu trả lời tiết kiệm điện hơn nhưng tổng lượt dùng tăng nhanh hơn.

Luận điểm lạc quan. Trung tâm dữ liệu hiện vẫn chiếm tỷ trọng nhỏ trong tổng điện năng toàn cầu so với công nghiệp nặng, giao thông hay làm mát nhà cửa. Các công ty công nghệ là bên mua hợp đồng điện tái tạo dài hạn lớn, góp phần cho dự án gió và mặt trời mới ra đời. AI cũng được dùng để tối ưu lưới điện, dự báo thời tiết cho điện tái tạo, thiết kế vật liệu pin — những lợi ích khó cộng trừ trực tiếp.

Điều cả hai phía đồng ý. Thiếu số liệu minh bạch là vấn đề lớn nhất. Khi các công ty không công bố điện năng theo mô hình và theo vị trí, cả phía lo ngại lẫn phía lạc quan đều phải tranh luận bằng ước tính. Nhiều nhà nghiên cứu và một số cơ quan quản lý đã đề nghị bắt buộc báo cáo năng lượng cho mô hình lớn.

Liên hệ với Việt Nam và người dùng bình thường

Việt Nam đang được nhắc tới như một điểm đến tiềm năng của trung tâm dữ liệu trong khu vực, cùng lúc với nhu cầu điện tăng nhanh từ công nghiệp và đô thị. Nếu các trung tâm dữ liệu lớn được xây, câu hỏi về nguồn điện sạch, khả năng của lưới truyền tải và nguồn nước làm mát sẽ trở thành câu hỏi chính sách thực tế, không còn là chuyện ở nước khác. Chi tiết quy hoạch điện nên tra trực tiếp văn bản quy hoạch phát triển điện lực hiện hành do Bộ Công Thương công bố.

Với người dùng cá nhân, tác động của một người hỏi thêm hay bớt vài câu là rất nhỏ so với các lựa chọn như đi lại, điều hoà hay ăn uống. Thói quen hợp lý hơn là dùng AI khi nó thật sự giúp được việc, chọn mô hình gọn cho việc đơn giản nếu công cụ cho chọn, và không sinh hàng loạt nội dung vô ích. Tác động lớn nằm ở quyết định của doanh nghiệp và chính sách năng lượng, không phải ở cảm giác tội lỗi của người gõ câu hỏi.

Ở cấp doanh nghiệp và cơ quan, khi mua dịch vụ AI, có thể hỏi nhà cung cấp về vị trí trung tâm dữ liệu, cơ cấu nguồn điện và có báo cáo môi trường hay không. Câu hỏi đó, nếu được nhiều khách hàng đặt ra, là một cách tạo áp lực minh bạch hiệu quả hơn mọi lời kêu gọi chung chung.

Nguồn để đọc thêm

Các nguồn dưới đây ghi bằng tên tổ chức và loại tài liệu; bạn đọc tìm bản mới nhất vì số liệu ngành này cập nhật nhanh.

  • Cơ quan Năng lượng Quốc tế (IEA), báo cáo thị trường điện hằng năm và báo cáo chuyên đề về năng lượng và AI, có phần ước tính điện năng trung tâm dữ liệu toàn cầu.
  • Báo cáo môi trường thường niên của các công ty công nghệ lớn, phần điện năng, nước và phát thải theo phạm vi; nên đọc kèm phần phương pháp tính.
  • Các bài nghiên cứu học thuật về dấu chân carbon của mô hình học máy, đăng tại các hội nghị khoa học máy tính lớn từ năm 2019 trở đi.
  • Bộ Công Thương, văn bản quy hoạch phát triển điện lực quốc gia hiện hành, để đối chiếu nhu cầu điện và nguồn điện của Việt Nam.
  • Các tổ chức theo dõi tiêu chuẩn hiệu quả năng lượng cho trung tâm dữ liệu, với chỉ số hiệu quả sử dụng điện (PUE) và hiệu quả sử dụng nước (WUE).

Khi gặp một con số về năng lượng của AI, hãy hỏi ba điều: con số đo cho mô hình nào, năm nào, và có tính làm mát, mạng, chạy thử hay không. Thiếu một trong ba thì con số đó chỉ để tham khảo.

Câu hỏi thường gặp

Huấn luyện hay vận hành AI tốn điện hơn?

Một lần huấn luyện tốn rất nhiều điện tập trung trong vài tuần, nhưng chỉ diễn ra một lần cho mỗi phiên bản. Vận hành tốn ít cho mỗi câu hỏi nhưng kéo dài hàng tháng với lượng người dùng khổng lồ. Với mô hình được dùng rộng rãi, nhiều phân tích cho rằng tổng điện vận hành vượt khâu huấn luyện.

Một câu hỏi gửi cho chatbot tốn bao nhiêu điện?

Chưa có con số chung đáng tin vì các công ty ít công bố và mức tiêu thụ phụ thuộc mô hình, độ dài câu trả lời và phần cứng. Các ước tính độc lập cho thấy một câu hỏi tốn hơn một lần tra cứu thông thường, nhưng chênh nhau nhiều lần giữa các nghiên cứu. Nên dè chừng con số lan truyền không ghi nguồn.

Vì sao trung tâm dữ liệu AI lại dùng nước?

Máy chủ toả nhiệt liên tục và nhiều trung tâm dùng tháp giải nhiệt bay hơi để làm mát, khiến một phần nước bốc hơi mất. Ngoài ra nhà máy điện cấp điện cho trung tâm cũng dùng nước. Lượng nước phụ thuộc khí hậu nơi đặt máy và công nghệ làm mát được chọn.

AI có làm tăng phát thải khí nhà kính toàn cầu không?

AI làm tăng nhu cầu điện của trung tâm dữ liệu, và ở nơi điện chủ yếu từ than hoặc khí thì phát thải tăng theo. Nhưng tỷ trọng của trung tâm dữ liệu trong tổng phát thải còn nhỏ, và AI cũng có thể giúp tiết kiệm năng lượng ở ngành khác. Mức tác động ròng còn đang tranh luận vì thiếu số liệu minh bạch.

Người dùng bình thường có nên ngừng dùng AI để bảo vệ môi trường?

Phần đóng góp của một cá nhân hỏi thêm vài câu là rất nhỏ so với việc đi lại hay dùng điều hoà. Cách hợp lý là dùng AI khi thật sự cần, chọn công cụ gọn cho việc đơn giản và tránh sinh nội dung vô ích. Tác động lớn nằm ở quyết định đầu tư của doanh nghiệp và chính sách năng lượng.

Làm sao biết một nhà cung cấp AI có dùng điện sạch không?

Xem báo cáo môi trường thường niên của công ty, phần cơ cấu nguồn điện, hợp đồng mua điện tái tạo và phát thải theo phạm vi. Doanh nghiệp mua dịch vụ có thể hỏi trực tiếp vị trí trung tâm dữ liệu và nguồn điện. Cần đọc kỹ phương pháp tính vì cam kết bù trừ carbon khác với việc dùng điện sạch thật.

Cần tư vấn cụ thể cho trường hợp của bạn?

Chúng tôi sẽ liên hệ trong vòng 24 giờ.

Đăng ký tư vấn ngay

Bài viết liên quan

Bạn cần hỗ trợ thêm?

Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.

hoặc
Gọi ngay 0926 138 138