🔒Открыть пост
и посмотреть медиа
и посмотреть медиа
Этот «дешёвый» ИИ с открытым исходным кодом на деле сжигает ваш вычислительный бюджет
(That ‘cheap’ open-source AI model is actually burning through your compute budget)
ссылка
Модель, упоминаемая в статье, хотя и бесплатна с точки зрения лицензии, на деле требует огромных вычислительных ресурсов, что приводит к быстрым перерасходам бюджета.
Даже при работе на одном GPU расходы могут достигать сотен долларов за час, что отражает высокую стоимость «всceх» вычислительных процессов.
Автор предупреждает, что открытые модели часто оказываются дороже в эксплуатации, чем ожидалось, из-за неэффективного использования аппаратных мощностей.
Это сигнал разработчикам о важности оптимизации вычислительных затрат при применении подобных технологий.
#news