На конференции Ai4 в Лас-Вегасе Нобелевский лауреат Джеффри Хинтон, глава World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Нг выступили в защиту открытых моделей ИИ, несмотря на растущие опасения по поводу безопасности.
Хинтон разграничил открытый исходный код и открытые веса. Код, по его словам, можно проверить на ошибки, а веса большой модели использовать для кибератак с минимальными затратами. Он признал, что выступал против открытых весов, но эта «битва проиграна» — открытые модели уже стали частью индустрии.
Эндрю Нг предупредил, что если несколько крупных компаний станут «привратниками» доступа к ИИ, инновации замедлятся. Он предложил поддерживать конкуренцию между моделями и провайдерами, а не допускать доминирования малого числа игроков.
Фей-Фей Ли призвала не сводить дискуссию к дихотомии «полностью открыто или полностью закрыто». Она привела пример ядерной физики: научные статьи открыты, но уран регулируется. По её мнению, разные уровни экосистемы могут иметь разную степень открытости.
Все трое согласились, что регулирование необходимо. Хинтон подчеркнул, что нельзя оставлять решение о развитии ИИ только частным компаниям: «Нужно развивать ИИ так, чтобы он помогал людям, и регулирование поможет в этом».