NVIDIA
Nvidia Nemotron 70b
Nvidia Nemotron 70b. Разработчик: NVIDIA.
API ID
nvidia/Llama-3.1-Nemotron-70B-Instruct-HFЦена
Цена пока не опубликована
Без опубликованного тарифа стоимость запроса неизвестна.
О модели
Nvidia Nemotron 70b. Разработчик: NVIDIA. Входные данные: текст. Результат: текст. Назначение: текстовый диалог. Контекстное окно: 16 384 токенов.
- Релиз
- Дата не указана
Характеристики
- Тип модели
- Текст
- Вход
- Текст
- Выход
- Текст
- Контекстное окно
- 16 384 токенов
- Максимальный ответ
- 8 192 токенов
- Операции в каталоге
- Текстовый диалог
Подключение
Пример подключения доступен. Запуск этой модели пока недоступен. Ключ храните в переменной окружения на своём сервере. REQUEST_ID — уникальный идентификатор запроса. При повторе сохраняйте его и тело запроса.
import json
import os
from urllib.request import Request, urlopen
request = Request(
"https://api.kvantora.ai/v1/chat/completions",
data="{\n \"model\": \"nvidia/Llama-3.1-Nemotron-70B-Instruct-HF\",\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"Объясни задачу кратко.\"\n }\n ],\n \"max_tokens\": 256\n}".encode("utf-8"),
headers={
"Authorization": "Bearer " + os.environ["KVANTORA_API_KEY"],
"Content-Type": "application/json",
"Idempotency-Key": os.environ["REQUEST_ID"],
},
method="POST",
)
with urlopen(request) as response:
print(json.load(response))
