Microsoft разработала генеративную модель искусственного интеллекта (ИИ) на основе GPT-4 специально для американских спецслужб. Она работает без подключения к интернету, пишет Ars Technica.

Согласно информации, это первый случай, когда Microsoft запустила языковую модель в защищенной среде, чтобы позволить агентствам анализировать сверхсекретную информацию без рисков утечки.

Новая модель, еще не имеющая публичного названия, отвечает интересу спецслужб для использования генеративного ИИ с целью обработки секретной информации, уменьшая при этом риски утечки данных или попыток взлома.

Уильям Чаппелл, технический директор Microsoft по стратегическим миссиям и технологиям, сообщил, что разработка новой системы включала 18 месяцев работы над модификацией суперкомпьютера с искусственным интеллектом.

Модифицированная модель GPT-4 предназначена для чтения файлов, предоставленных пользователями, но не имеет доступа к сети.

"Это первый случай, когда у нас есть изолированная версия - изолированная означает, что она не подключена к интернету и находится в специальной сети, доступ к которой имеет только правительство США", - сказал Чаппелл в интервью Bloomberg.

GPT-4 – это большая речевая модель (LLM), созданная OpenAI. Одним из серьезных недостатков использования GPT-4 для анализа важных данных является то, что она потенциально может придумывать факты и делать ошибочные выводы.

Поскольку обученные нейронные сети не являются базами данных и оперируют статистическими вероятностями, они являются плохими фактическими ресурсами, если их не дополнить внешним доступом к информации из другого источника с помощью такой техники, как генерация расширенного поиска (RAG).

Photo by Andrea Piacquadio