Очень интересные времена настали. Совсем недавно, буквально в 2020 году не существовало отрасли искусственного интеллекта на базе больших языковых моделей. Прошло совсем немного времени и LLM AI уже является явным трендом в поиске новой эффективности, а возможно и даже прорывной супер технологией. На днях встретилась цифра — уже более 8% всей вырабатываемой электроэнергии в США потребляется центрами обработки данных. ИТ-гиганты в США заказывают постройку новых электростанций и выкупают длинные контракты на поставку электричества. Один из новых крупных ЦОДов Google потребляет 500МВт, что сравнимо с потреблением всей Тамбовской области. Meta и X планируют ЦОДы с потреблением в несколько ГВт.

Также как и криптовалюты, большие языковые модели (их обучение и затем использование) потребляют огромное количество энергии, не производя никакой физической сущности, только информационные следы. В ближайшем будущем ожидается рост потребления ЦОДов до 20-30% от всего объема электроэнергии.

Многие эксперты выражают сомнения в эффективности (экономической, энергетической) LLM технологий и ожидают, что после текущей волны хайпа неизбежно наступит стабилизация и разумное охлаждение. Но это потом, чуть позже. А сейчас жги Сеня, жги!