Коротко
- Jalapeño обеспечил рост вычислений на ватт в 1,5–1,9 раза и снижение сквозной задержки в 1,7–3,6 раза относительно коммерческих систем
- Испытания охватывали три открытые модели: GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T
- Номинальная мощность чипа составляет 700 ватт, устойчивое потребление в тестах не превышало 550 ватт
- От первоначального дизайна до tape-out команда дошла за девять месяцев; отдельно Codex с GPT-Astra помогли за два месяца довести три open-weight модели до высокой производительности
- Развёртывание в инфраструктуре OpenAI запланировано до конца 2026 года
OpenAI представила первые результаты испытаний Jalapeño — специализированного чипа для инференса, разработанного внутри компании. Тестирование проводилось на публичном бенчмарке InferenceX, который измеряет полный путь обработки запроса от получения до выдачи ответа.
Результаты бенчмарков
На бенчмарке InferenceX компания сравнила производительность Jalapeño с коммерческими системами на трёх моделях: GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T. Чип продемонстрировал рост вычислений на ватт от 1,5 до 1,9 раза при пиковой пропускной способности и снижение сквозной задержки от 1,7 до 3,6 раза в зависимости от модели.
Для самой крупной модели Kimi K2.5 1T зафиксированы примерно 1,5-кратная пиковая производительность на ватт и 3,4-кратное снижение задержки. В последовательных агентских сценариях производительность оказалась ещё выше — от 2,1 до 4,1 раза относительно сравниваемых решений. Номинальная мощность Jalapeño составляет 700 ватт, но в реальных тестах устойчивое потребление не превышало 550 ватт.
Разработка и планы
OpenAI сообщила, что AI помогла команде пройти путь от первоначального дизайна до tape-out за девять месяцев. Отдельно, используя Codex с GPT-Astra, команда за два месяца довела до высокой производительности три open-weight модели, которых не было в исходном производственном плане Jalapeño. Архитектура Jalapeño уменьшает перемещение данных и позволяет хранить состояние модели локально.
Компания планирует развернуть чип в собственной инфраструктуре до конца 2026 года. Следующие поколения Jalapeño уже находятся в разработке.
Источник
Проверено по официальной публикации: OpenAI: Jalapeño’s first results show industry-leading speed and efficiency in AI inference