IBM и Groq объединяют усилия для ускорения развертывания корпоративного ИИ с высокой скоростью и масштабируемостью

Компании IBM и Groq объявили о стратегическом партнерстве с целью предоставления клиентам возможностей высокоскоростного ИИ-инференса по доступной цене. Объединение watsonx Orchestrate от IBM с аппаратными решениями Groq позволит ускорить развертывание агентных ИИ-систем. В рамках партнерства компании планируют интегрировать и усовершенствовать технологию Red Hat vLLM с архитектурой LPU Groq. Совместное решение позволит клиентам использовать возможности watsonx Orchestrate привычным образом и с привычными инструментам в инференс-платформе GroqCloud, предоставляющей разработчикам доступ к высокоскоростной и недорогой обработке LLM. Интеграция позволит удовлетворить ключевые потребности разработчиков ИИ-решений, включая оркестрацию инференса, балансировку нагрузки и аппаратное ускорение. Также планируется поддержка моделей IBM Granite в GroqCloud для клиентов компании. Предприятия при переводе ИИ-агентов из пилотной версии в промышленную эксплуатацию сталкиваются с проблемами обеспечения скорости, стоимости и надежности. Отмечается, что партнерство IBM и Groq позволит объединить скорость инференса Groq, экономическую эффективность и доступ к новейшим open source моделям с оркестрацией агентского ИИ IBM, предоставляя клиентам инфраструктуру, необходимую для их масштабирования. IBM сообщила, что LPU обеспечивают минимум в пять раз более быстрый и экономичный инференс, чем системы на ускорителях конкурентов. Это позволяет обеспечить стабильно низкую задержку и производительность при масштабировании нагрузок, что особенно важно для ИИ-агентов в регулируемых отраслях. Благодаря Groq ИИ-агенты IBM смогут анализировать информацию в режиме реального времени и мгновенно предоставлять точные ответы, позволяя организациям принимать более оперативные и обоснованные решения. The post IBM и Groq объединяют усилия для ускорения развертывания корпоративного ИИ с высокой скоростью и масштабируемостью appeared first on InfoCity....

Сообщает infocity.tech

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

15:28, 19 Окт Astana Hub и TON Foundation объединяют усилия для развития AI-стартапов Astana Hub объявляет о партнерстве с TON Foundation в лице TON СНГ Хаба – центра по развитию экосистемы TON Blockchain в регионе. Партнерство предусматривает поддержку участников акселерационной программы AI’preneurs, направленной на запуск и масшта...

07:28, 22 Авг Из-за коллапса животные с высокой скоростью перемещаются к полюсам Глобальное потепление заставляет виды следовать инстинкту самосохранения. Эксперты провели масштабный анализ того, как менялись области обитания живых организмов на земной поверхности, и пришли к выводу, что многие из них с высокой скоростью перемещ...

20:20, 20 Авг НДУ ВШЭ створыць сістэму ацэнкі традыцыйных каштоўнасцяў у студэнтаў Навукова-даследчы інстытут у канцы ліпеня выйграў тэндэр ў 10 млн рублёў на распрацоўку сістэмы ацэнкі прыняцця традыцыйных каштоўнасцяў студэнтамі. Ад распрацоўкі чакаюць, што яна дапаможа ўмацаваць духоўна-маральны падмурак грамадства і дапамагчы ...

09:28, 06 Сен Lenovo представила расширенный портфель ИИ-устройств и решений для корпоративного сектора Компания Lenovo, мировой лидер в области технологических инноваций, в рамках мероприятия Lenovo Innovation World 2025 представила серию интеллектуальных продуктов и сервисов, разработанных для внедрения ИИ и ускорения его развертывания в бизнесе. Ср...

20:19, 20 Авг Аляксандр Мілонаў загінуў падчас службы ў зоне спецаперацыі службы в зоне спецоперации У сям'і дэпутата Дзярждумы Віталя Мілонава адбылася трагедыя — яго родны брат Аляксандр загінуў падчас службы ў зоне адмысловай ваеннай аперацыі. Ён адправіўся добраахвотнікам у Луганскую Народную Рэспубліку, адкуль жывым ужо не вярнуўся. Падрабязна...

16:28, 13 Сен Российские учёные разработали способ ускорения сети 5G При помощи разработанной ими антенны можно достичь более качественной передачи данных. Весь мир постепенно переходит на телефонную сеть следующего, 5-го поколения, не исключением стала и Россия. В Москве уже была запущена пилотная версия покрытия 5G...

20:28, 29 Сен Honda и Astrobotic объединили усилия, чтобы обеспечить освещение на луне Автомобильный гигант Honda и лунный стартап Astrobotic совместно исследуют возможность использования системы регенеративных топливных элементов (RFC) для обеспечения постоянного электроснабжения во время долгих ночей на Луне. Компании проведут иссле...

05:28, 26 Авг Microsoft представила технологию Advanced Shader Delivery для ускорения загрузки игр в Windows На конференции Gamescom 2025 Microsoft представила новую технологию под названием Advanced Shader Delivery, призванную решить проблему долгой первоначальной загрузки игр и статтеров. Функция дебютирует на портативных игровых консолях ROG Xbox Ally и...

08:28, 13 Авг SanDisk выпустила microSD-карту на 512 ГБ со скоростью SSD SanDisk анонсировала новую карту памяти microSD Express ёмкостью 512 ГБ. Новинка предназначена специально для геймеров и специалистов, работающих с мультимедиа. ОсобенностиSanDisk microSD Express использует интерфейс PCIe 3.1 NVMe, обеспечивающий ск...

03:28, 20 Авг Минздрав бессилен – Саратовец с высокой температурой едва дождался помощи Россиянин мучился с температурой более 40 градусов, но в «скорой» этот случай экстренным не сочли. Позиция Минздрава вовсе вогнала мужчину в ступор. Саратовец с высокой температурой едва дождался помощи. Внезапно мужчина обнаружил, что т...

15:28, 09 Окт Вышел мобильный SSD Corsair EX300U с поддержкой MagSafe и скоростью до 1100 МБ/с Популярный производитель компьютерных компонентов Corsair представил новый портативный SSD EX300U. Девайс оснащён интерфейсом USB-C и поддерживает магнитное крепление MagSafe.Накопитель обеспечивает скорость чтения и записи до 1100 МБ/с благодаря ин...

21:28, 16 Сен Yle сообщило о высокой стоимости замены сотен указателей российских городов в Финляндии Финские муниципалитеты не спешат менять таблички с российскими городами из-за высоких затрат, которые могут составить сотни тысяч евро. Вопрос о замене дорожных указателей с российскими городами пока не выносился на обсуждение, поскольку закрытие гр...

03:28, 17 Авг Японские химики сняли видео движения молекул со скоростью 1600 кадров в секунду Проблемой электронного машиностроения было наличие шума от датчиков изображения с высокой чувствительностью. Японские химики из Токийского университета сняли видео движения молекул со скоростью 1600 кадров в секунду. Работа стала прорывом, увеличив ...

00:28, 01 Сен Землю накроет солнечная плазма со скоростью 900 км/с: сильные магнитные бури ожидаются 1-2 сентября По результатам моделирования движения выброса плазмы, произошедшего на Солнце накануне, Земля столкнется с потоком солнечного вещества уже завтра, 1 сентября, между 23 и 24 часами по московскому времени. Об этом рассказали в Лаборатории солнечной ас...

04:28, 14 Авг Новый подход позволяет роям дронов автономно перемещаться в сложных условиях на высокой скорости Беспилотные летательные аппараты (БПЛА), обычно называемые дронами, широко используются во всем мире для решения различных задач, включая видеосъемку различных целей, наблюдение за посевами и другими объектами с воздуха, оценку зон стихийных бедстви...

08:28, 05 Сен Невосполнимая утрата мира высокой моды: жизненный путь великого кутюрье Джорджио Армани Имя величайшего итальянского модельера Джорджио Армани известно в каждом уголке мира. Сегодня, на 92-м году жизни, его не стало. От мечты о медицине до модельера: юность Джорджио Армани Будущий великий кутюрье Джорджио Армани родился 11 июля 1934 го...