Какой LLM вы должны использовать? Token Monster автоматически объединяет несколько моделей и инструментов для вас

admin

Присоединяйтесь к нашим ежедневным и еженедельным информационным бюллетеням для последних обновлений и эксклюзивного контента в лидирующем отраслевом освещении искусственного интеллекта. Узнать больше


Token Monster, новая платформа Chatbot AI, запустила свой предварительный просмотр Alpha, направленную на то, чтобы изменить то, как пользователи взаимодействуют с большими языковыми моделями (LLMS).

Разработанный Мэттом Шумером, соучредителем и генеральным директором OtherIdeai и его хитом AI Prises Assistant Hyperwrite AI, ключевой точкой продажи Token Monster является его способность направлять пользовательские подсказки к лучшим доступным LLM для выполнения задачи, обеспечивая расширенные результаты, используя сильные стороны нескольких моделей.

В настоящее время есть семь основных LLM, доступных через Token Monster. После того, как пользователь впивает что-то в поле для ввода, токен Monster использует предварительные сбои, разработанные через итерацию Shumer, для автоматического анализа ввода пользователя, решить, какая комбинация нескольких доступных моделей и связанных инструментов лучше всего подходит для его ответа, а затем предоставить комбинированную реакцию, используя сильные стороны указанных моделей. Доступные LLM включают:

  • Антропический Клод 3.5 Сонет
  • Антропический Клод 3.5 Опус
  • Openai GPT-4.1
  • OpenAI GPT-4O
  • Недоумение AI pplx (для исследований)
  • Openai O3 (для рассуждения)
  • Google Gemini 2.5 Pro

В отличие от других платформ чат-ботов, токен Monster автоматически определяет, какой LLM лучше всего подходит для определенных задач, а также какие инструменты, связанные с LLM, будут полезны, такие как веб-среда или среды кодирования, и организует многомоделический рабочий процесс.

«Мы просто строим разъемы ко всему, а затем систему, которая решает, что использовать, когда», — сказал Шумер.

Например, он может использовать Claude для творчества, O3 для рассуждений и PPLX для исследований, среди прочего. Этот подход устраняет необходимость для пользователей вручную выбирать правильную модель для каждой подсказки, упрощая процесс для всех, кто хочет высококачественных, индивидуальных результатов.

Основные моменты

Alpha Preview, который в настоящее время может подписаться на at tokenmonster.ai, позволяет пользователям загружать диапазон типов файлов, включая Excel, PowerPoint и DOCS.

Он также включает в себя такие функции, как извлечение веб-страницы, постоянные сеансы разговора и «быстрый режим», который автоматические маршрутизации в лучшую модель без пользовательского ввода.

В основе Token Monster лежит OpenRouter, сторонняя служба, которая действует как шлюз в несколько LLMS, в которую Шумер инвестировал небольшую сумму благодаря его признанию.

Эта архитектура позволяет токенскому монстру набрать ряд моделей от разных поставщиков без необходимости создавать отдельные интеграции для каждого из них.

Цены и доступность

На данный момент Token Monster не взимает фиксированную ежемесячную плату.

Вместо этого пользователи платят только за токены, которые они потребляют через OpenRouter, что делает его гибким для различных уровней использования.

По словам Шумера, эта модель была вдохновлена ​​Cline, инструментом, который позволяет пользователям с высоким расходом получить доступ к неограниченной мощности искусственного интеллекта, что позволяет им достичь лучших выходов, просто используя больше вычислительных ресурсов.

Многоэтапные рабочие процессы производят более богатые ответы LLM

Рабочие процессы AI Token Monster выходят за рамки простой быстрого маршрутизации.

В одном примере чат -бот может начаться с фазы исследования с использованием API -интерфейсов веб -поиска, передайте эти данные в O3 для определения пробелов в области информации, а затем создать набросок с Gemini 2.5 Pro, черновик текст с Claude Opus и усовершенствовать его с помощью Sonnet Claude 3.5.

Эта многоэтапная оркестровка предназначена для предоставления более богатых, более полных ответов, чем один LLM может генерировать в одиночку.

Платформа также включает в себя возможность сохранения сеансов, при этом данные надежно хранятся с использованием онлайн -сервиса базы данных с открытым исходным кодом Supabase. Это гарантирует, что пользователи могут вернуться к текущим проектам, не теряя свою работу, в то же время давая им контроль над тем, что сохраняются данные и что является эфемерным.

Нетрадиционный генеральный директор

В заметном эксперименте руководство Token Monster было передано модели Claude’s Antropic.

Шумер объявил, что он привержен следовать каждому решению, принятому «генеральным директором Клодом», назвав это тестом, чтобы увидеть, может ли ИИ эффективно управлять бизнесом.

«Либо мы навсегда произвели революцию в управлении, либо совершили огромную ошибку», — написал он на X.

Выходя из противоречия 70-B Reflection

Запуск Token Monster произошел менее чем через год после того, как Шумер столкнулся с противоречиями по поводу его запуска и окончательного повторного отдыха Reflection 70B, тонкой настройки Llama 3.1, которая первоначально рекламировалась как наиболее высокопрофессиональная модель с открытым исходным кодом в мире, но которая быстро стала подверженной критике, а прибрежные выплаты после третьего PP.

Шумер извинился и сказал, что проблемы были рождены из -за ошибок, сделанных из -за скорости. Эпизод подчеркнул проблемы и риски быстрого развития ИИ и важности прозрачности в модельных выпусках.

Интеграции MCP следуют

Шумер сказал, что его команда на Token Monster также изучает новые возможности, такие как интеграция с серверами модельного протокола контекста (MCP), которые позволяют веб-сайтам и компаниям, чтобы LLM использовали свои знания, инструменты и продукты для выполнения задач более высокого порядка, чем просто текстовые или генеральные изображения.

Это позволило бы Token Monster подключаться к внутренним данным и услугам пользователя, открывая возможности для его выполнения, таких как управление билетами поддержки клиентов или взаимодействие с другими бизнес -системами.

Shumer подчеркнул, что Monster Monster все еще на ранних стадиях. Несмотря на то, что он уже поддерживает набор мощных функций, платформа остается альфа -продуктом и, как ожидается, будет видеть быстрые итерации и обновления, поскольку все больше пользователей предоставляют обратную связь. «Мы будем продолжать итерацию и добавлять вещи», — сказал он.

Многообещающий эксперимент

Для пользователей, которые хотят воспользоваться комбинированной мощностью нескольких LLMS без проблем переключения модели, токен Monster может быть привлекательным выбором. Он предназначен для того, чтобы работать для людей, которые не хотят тратить часы, настраивая подсказки или сами тестирование различных моделей, вместо этого позволяя автоматической маршрутизации системы и многоэтапными рабочими процессами справляться с сложностью.

По мере того, как растут возможности Token Monster, будет интересно посмотреть, как пользователи и предприятия используют это-и как его эксперимент с подготовкой управления AID. На данный момент это многообещающее дополнение к быстро расширяющемуся ландшафту чат -ботов ИИ и цифровых помощников.



Источник

Рекомендуем

Оставить комментарий