AI fever cools down, but AI data centers also stagnate?

Over the past two years, US tech giants have been racing to build data centers, the “backbone” of AI, but signs of a slowdown are emerging.

Amazon Web Services (AWS), a subsidiary of Amazon, has paused negotiations on some new data center leases, especially overseas, according to a report by US bank Wells Fargo on April 21. Investment bank TD Cowen said in late March that Microsoft also canceled data center projects expected to use 2 gigawatts of electricity in the US and Europe due to oversupply.

Both companies stressed that they still stand by their signed agreements and called the move a normal capacity management activity. Microsoft will still spend $80 billion in the fiscal year ending next June. Last week, Amazon’s vice president of global data centers, Kevin Miller, wrote on LinkedIn that “there have been no major changes to recent expansion plans.” Nvidia also said the data center market remains strong.

But while AI development continues, the pace may be changing, according to Quartz. Recent slowdowns suggest that the AI ​​boom may not be as rapid and continuous as Amazon or Microsoft had predicted.

Over-expansion

A report from Swiss bank UBS last week suggested that it was unlikely that the cause was a sudden drop in demand. Instead, Microsoft’s move may stem from over-expansion during the initial AI boom.

Microsoft is leasing as much data center capacity as it can afford in 2022-24. Microsoft’s capital expenditures have increased 6.7 times in about two years, with the total value of the leases being about $175 billion. Now, with a better understanding of how AI is used and its energy needs, Microsoft is starting to cut back on early-stage projects that don’t provide immediate value.

Áp lực chi phí trong hệ sinh thái AI đang tăng lên. Một truy vấn đặt ra cho những mô hình tiên tiến nhất của OpenAI có thể tốn tới 1.000 USD cho sức mạnh tính toán. CEO của OpenAI, Sam Altman hồi tháng 1 chia sẻ, dù thu phí 200 USD mỗi tháng cho quyền truy cập ChatGPT cao cấp, dịch vụ vẫn chưa có lãi.

CEO của Microsoft, Satya Nadella, gần đây thừa nhận rằng đến nay AI vẫn chưa tạo ra nhiều giá trị đo lường được. Chia sẻ của ông cho thấy sự hoài nghi về việc liệu AI tạo sinh có thể mang lại lợi nhuận bền vững hay liệu chi tiêu cho cơ sở hạ tầng có đang vượt xa nhu cầu thực tế hay không.

Tiêu tốn lượng điện khổng lồ

CNBC chỉ ra, trung tâm dữ liệu cần rất nhiều điện cho sức mạnh tính toán và quạt làm mát. “Các trung tâm dữ liệu mới đang tăng quy mô đến mức lưới điện không thể theo kịp”, Allan Schurr, Giám đốc thương mại của nhà phát triển lưới điện vi mô Enchanted Rock, cho biết. Ba năm trước, một trung tâm dữ liệu lớn có công suất 60 MW, đủ điện để cung cấp cho 20.000 ngôi nhà. Nhưng hiện tại, các trung tâm mới hỗ trợ mọi mục đích sử dụng AI đòi hỏi công suất 500 MW trở lên.

Điều này đặt ra thách thức không nhỏ cho các công ty điện, phải đảm bảo cung cấp đủ điện cho mọi khách hàng, kể cả lúc cao điểm. “Đây là lý do tại sao một số công ty điện đặt ra thời gian chờ kết nối dài cho các trung tâm dữ liệu. Họ cần đầu tư cho trạm biến áp mới và cũng có thể cần tăng khả năng truyền tải và phát điện, tất cả đều mất thời gian”, Schurr giải thích.

Theo Datacenters.com, các trung tâm dữ liệu đang sử dụng 3% điện của thế giới. Nhiều khu vực gặp những hạn chế về lưới điện nên khó xây thêm trung tâm dữ liệu mới. Các cơ sở quy mô lớn cũng vấp phải sự phản đối ngày càng tăng của cộng đồng địa phương do đòi hỏi ngày càng nhiều điện, đất và nước.

Nghiên cứu của Đại học Georgetown, Epoch AI và RAND Corporation cho thấy, nếu xu hướng hiện tại tiếp tục, mỗi trung tâm dữ liệu AI hàng đầu có thể có chi phí 200 tỷ USD, chứa hai triệu chip AI và cần lượng điện tương đương 9 lò phản ứng hạt nhân vào năm 2030.

Ảnh hưởng từ đòn thuế

Những thay đổi về thuế quan của Tổng thống Mỹ Donald Trump dự kiến tạo ra áp lực chi phí mới trên toàn bộ chuỗi cung ứng AI và các trung tâm dữ liệu.
“Sự thay đổi này sẽ làm tăng chi phí phần cứng, tác động đến chiến lược tìm nguồn cung ứng và buộc các doanh nghiệp xem xét lại mô hình thu mua dài hạn”, John Archer, trưởng nhóm chuyển đổi chuỗi cung ứng tại công ty tư vấn Mỹ Slalom Consulting, cho biết.

Trong ngắn hạn, các nhà cung cấp đám mây và AI cần tìm cách giảm chi phí như đàm phán lại hợp đồng với nhà cung cấp và tối ưu hóa hàng trong kho. “Về lâu dài, có thể đẩy mạnh đa dạng hóa địa lý, hợp tác sản xuất tại những nơi thuế quan thuận lợi và tích hợp sâu hơn các phân tích chuỗi cung ứng AI để thích ứng với chính sách thương mại thay đổi”, Archer nói.

Một điều không thay đổi là việc tính toán đòi hỏi chi phí cao, và phần mềm cũng như phần cứng AI đang cần sức mạnh tính toán lớn hơn nữa, theo Suresh Venkatesan, CEO của POET Technologies, công ty Canada phát triển giải pháp năng lượng cho các trung tâm dữ liệu. “Trong khi một dự án trung tâm dữ liệu gặp trở ngại, những dự án khác có thể xuất hiện, vì không có dấu hiệu nào cho thấy nhu cầu kết nối sẽ chậm lại”, ông cho biết.

Pankaj Sachdeva, đối tác cấp cao của công ty tư vấn McKinsey & Company, cho rằng cần phân biệt rõ khái niệm chững lại diện rộng với một số động thái tạm dừng gần đây của các công ty công nghệ lớn. Nếu không tính tác động của thuế quan, thị trường trung tâm dữ liệu dự kiến tăng trưởng 20-25% trong 5-7 năm tới, nhưng tốc độ tăng trưởng khác nhau qua từng năm. “Nó sẽ không tuyến tính”, Sachdeva nói.