Llama 3.1 8B Instruct: быстрая и эффективная модель для текста¶

Llama 3.1 8B Instruct это быстрая и эффективная модель от Meta для обработки текстовых запросов с поддержкой инструментов.

Meta Llama Контекст 131K Вход: текст $0.020 / 1М вход

Что это¶

Llama 3.1 8B Instruct это одна из новейших моделей от Meta, разработанная для выполнения инструкций. Она ориентирована на скорость и эффективность обработки текстовых данных, предлагая сбалансированное решение для различных задач.

Что умеет¶

Модель отлично подходит для задач, требующих быстрой генерации текста и выполнения инструкций. Она хорошо справляется с обработкой длинных запросов благодаря большому контекстному окну и поддерживает использование внешних инструментов, что расширяет ее функциональность.

Кому подходит¶

Подходит разработчикам и компаниям, которым нужна быстрая и экономичная модель для текстовых задач, таких как генерация контента, ответы на вопросы, суммаризация и автоматизация рабочих процессов через интеграцию с инструментами.

Характеристики¶

Параметр	Значение
Провайдер	Meta Llama
Контекст	131 072 токенов
Вход	текст
Выход	текст
Цена входа	$0.020 / 1М токенов
Цена выхода	$0.030 / 1М токенов
Макс. вывод	16 384 токенов
Вызов инструментов (tools)	да
Режим рассуждения	нет
Появилась	Июль 2024
Обновлено	11 июн 2026

Где запустить: провайдеры¶

Модель раздаётся через 6 провайдеров. Контекст, цены за 1М токенов и аптайм по провайдерам:

Провайдер	Контекст	Макс. вывод	Вход $/1М	Выход $/1М	Аптайм
DeepInfra	131K	16K	$0.020	$0.030	99.9%
Novita	16K	16K	$0.020	$0.050	100.0%
DeepInfra	131K	16K	$0.020	$0.050	100.0%
Groq	131K	131K	$0.050	$0.080	100.0%
Cloudflare	32K	32K	$0.152	$0.287	100.0%
WandB	128K	128K	$0.220	$0.220	100.0%

Цена входа по провайдерам, $/1М токенов

WandB$0.220

Cloudflare$0.152

Groq$0.050

DeepInfra$0.020

Novita$0.020