Теперь это изменится, отчасти благодаря запуску BLOOM (аббревиатура от BigScience Large Open-science Open-access Multilingual Language Model). BLOOM начал свою работу в 2021 году, когда его разработкой руководил стартап по машинному обучению Hugging Face, который в мае привлек 100 миллионов долларов.
Усилия BigScience также выигрывают от широкого круга участников, включая команды Nvidia Megatron и Microsoft DeepSpeed, а также получают поддержку от CNRS, французского национального исследовательского агентства. Модель BLOOM была построена и обучена с помощью суперкомпьютера Jean Zay, расположенного во Франции.
BLOOM имеет архитектуру, аналогичную большой языковой модели OpenAI GPT-3, но с ключевым принципиальным отличием в том, что BLOOM является многоязычным.
Источник.
AI goes multilingual with Hugging Face's BLOOM | VentureBeat
