Суперкомпьютер будут использовать для тренировки следующего поколения массивных распределённых ИИ-моделей.
Microsoft создала один из пяти самых мощных суперкомпьютеров в мире. Его разработали на базе облака Azure специально для компании OpenAI. Об этом TJ рассказали в Microsoft.
Суперкомпьютер Microsoft оснащён 285 тысячами процессорных ядер и 10 тысячами графических процессоров. Скорость подключения составляет 400 гигабит в секунду для каждого сервера. Устройство планируют использовать для тренировки следующего поколения массивных распределённых ИИ-моделей, которые будут способны выполнять более широкий спектр функций
Как пояснили в Microsoft, раньше эксперты по машинному обучению разрабатывали ИИ-модели, использующие наборы данных для выполнения какой-то одной цели — распознавания объектов, перевода текстов и не только. Однако с некоторыми сценариями лучше справляется одна большая модель, обученная, к примеру, на миллиардах страниц публично доступных текстов.
Такие системы способны решать сразу несколько разных задач: подводить итоги длинных выступлений, модерировать чат в онлайн-играх и даже генерировать программный код после поиска на GitHub. Однако большие модели требуют прогрессивной супервычислительной инфраструктуры — для этого и понадобился ИИ-суперкомпьютер.
OpenAI — основанная Илоном Маском компания, которая занимается вопросами регуляции искусственного интеллекта. Она в том числе сама разрабатывает инструменты для работы с нейросетями и машинным обучением — например, алгоритм, генерирующий убедительные заголовки фейковых новостей.
