Потратил $5000 на токены, чтобы вы не повторяли его ошибок. Часть 2

Наш герой (видимо, мазохист с толстым кошельком и любовью к экспериментам) снова в деле. В первой части он уже потратил $5000 на токены, чтобы выяснить, как не надо. Теперь, поддавшись на уговоры единственного слушателя, поставившего апвоут, он решил продолжить и углубиться в детали.

Что пошло не так на этот раз?

Во второй части автор делится свежими наблюдениями: оказывается, даже потратив пять штук баксов, можно умудриться наступить на те же грабли, только с разбега. Он разбирает конкретные кейсы, где большие модели (вроде GPT-4) оказались бесполезны, а маленькие — наоборот, спасли ситуацию. Спойлер: выбор модели — это как выбирать между швейцарским ножом и молотком: для забивания гвоздей молоток лучше, но ножом можно и хлеб нарезать, если очень захочется.

Главный инсайт: не ведитесь на хайп «чем больше токенов, тем лучше». Автор на своей шкуре прочувствовал, что оптимизация промптов и правильный выбор модели экономят не только нервы, но и реальные деньги. Он даже приводит таблицы с расходами — для особо дотошных.

В конце — традиционный вывод: «Я потратил кучу денег, чтобы вы могли не повторять моих ошибок». Ну, или хотя бы посмеяться над ними.

Комментарий студии METABYTE: Мы, конечно, не призываем тратить $5000 на токены ради эксперимента — лучше доверьте эту работу нам. У нас уже есть готовые грабли, и мы знаем, как их обойти. 😉