Osaurus возник из идеи создания настольного AI-компаньона под названием Dinoki, который сооснователь Osaurus, Терренс Пэ, описал как своего рода «Clippy с искусственным интеллектом». Клиенты Dinoki спрашивали его, зачем покупать приложение, если всё равно нужно платить за токены — единицы использования, которые AI-компании взимают за обработку запросов и генерацию ответов. Это заставило Пэ задуматься о возможности локального запуска AI. «Так начался Osaurus», — рассказал Пэ, ранее работавший инженером-программистом в Tesla и Netflix, в интервью TechCrunch. Идея заключалась в том, чтобы попробовать запустить AI-ассистента локально. «Вы можете делать практически всё на вашем Mac локально: просматривать файлы, получать доступ к браузеру, конфигурациям системы. Я подумал, что это будет отличным способом позиционировать Osaurus как персональный AI для индивидуальных пользователей».

Пэ начал разрабатывать инструмент в открытом доступе как проект с открытым исходным кодом, добавляя функции и исправляя ошибки по мере работы. Сегодня Osaurus может гибко подключаться к локально размещённым AI-моделям или облачным провайдерам, таким как OpenAI и Anthropic. Пользователи могут свободно выбирать, какие AI-модели они используют, и сохранять другие аспекты AI-опыта на своём оборудовании, такие как память моделей, файлы и инструменты. Учитывая, что разные AI-модели обладают разными сильными сторонами, преимущество этой системы заключается в том, что пользователи могут переключаться на модель AI, которая лучше всего соответствует их потребностям. Такая структура делает Osaurus так называемым «harness» — контрольным слоем, который соединяет различные AI-модели, инструменты и рабочие процессы через единый интерфейс, аналогично инструментам, таким как OpenClaw или Hermes. Однако отличие в том, что такие инструменты часто ориентированы на разработчиков, которые знают, как работать с терминалом. И иногда, как в случае с OpenClaw, они могут представлять проблемы безопасности. Osaurus, между тем, предлагает простой в использовании интерфейс, который могут использовать потребители, и решает проблемы безопасности, запуская всё в аппаратно изолированной виртуальной песочнице. Это ограничивает AI определённым диапазоном, сохраняя безопасность вашего компьютера и данных.

Конечно, практика запуска AI-моделей на вашем компьютере всё ещё находится на ранних стадиях, поскольку она требует значительных ресурсов и зависит от оборудования. Для запуска локальных моделей вашей системе потребуется как минимум 64 ГБ оперативной памяти. Для работы с более крупными моделями, такими как DeepSeek v4, Пэ рекомендует системы с около 128 ГБ оперативной памяти. Но Пэ считает, что потребности локального AI со временем уменьшатся. «Я вижу в этом потенциал, потому что интеллект на ватт — это как метрика для локального AI — значительно увеличивается. Это находится на собственной кривой инноваций. В прошлом году локальный AI едва мог завершать предложения, но сегодня он может запускать инструменты, писать код, получать доступ к браузеру и заказывать товары на Amazon… Он становится всё лучше и лучше», — сказал он.

Сегодня Osaurus может запускать MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4 и другие модели. Он также поддерживает встроенные модели Apple, семейство моделей LFM от Liquid AI и может подключаться к облачным сервисам, таким как OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama и LM Studio. Как полноценный сервер MCP (Model Context Protocol), вы можете предоставить доступ к своим инструментам любому клиенту, совместимому с MCP. Кроме того, он поставляется с более чем 20 встроенными плагинами для Mail, Calendar, Vision, macOS Use, XLSX, PPTX, Browser, Music, Git, Filesystem, Search, Fetch и других. Недавно Osaurus был обновлён для включения голосовых возможностей. С момента запуска проекта почти год назад его скачали более 112 000 раз, согласно данным на сайте. Приложение конкурирует с другими инструментами, которые позволяют запускать модели локально, такими как Ollama, Msty, LM Studio и другие, но предлагает уникальный набор функций и позиционирует себя как более удобный вариант для пользователей, не являющихся разработчиками.

В настоящее время основатели Osaurus (включая сооснователя Сэма Ю) участвуют в нью-йоркском стартап-акселераторе Alliance. Они также обдумывают следующие шаги, которые могут включать предложение Osaurus для бизнеса, например, в юридической или медицинской сфере, где использование локальных LLM может решить проблемы конфиденциальности. С ростом мощности локальных AI-моделей команда считает, что это может снизить спрос на AI-центры обработки данных. «Мы наблюдаем взрывной рост в области AI, где [облачные AI-провайдеры] вынуждены масштабироваться, используя центры обработки данных и инфраструктуру, но мы чувствуем, что люди ещё не увидели ценности локального AI», — сказал Пэ. «Вместо того чтобы полагаться на облако, они могут развернуть Mac Studio на месте, и это должно потреблять значительно меньше энергии. У вас всё ещё будут возможности облака, но вы не будете зависеть от центра обработки данных для запуска этого AI», — добавил он.

Источник

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *