Деятельность ИИ-моделей остаётся непрозрачной

Исследователи Стэнфордского университета опубликовали доклад с оценкой прозрачности работы моделей на основе Искусственного Интеллекта

Результатами работы Стэнфордского института искусственного интеллекта, ориентированного на человека (HAI) стал индекс (Foundation Model Transparency Index), в котором они оценили прозрачность 10 ведущих ИИ-моделей по шкале до 100. Среди этих моделей среди прочих Stable Diffusion, Llama 2 и ChatGPT.

Llama2, разработанная Meta, результировала выше других с оценкой в 54 из 100. Исследователи, однако, отмечают, что эта оценка даже и не близка к тому, чтобы назвать данную модель «адекватно прозрачной», что вскрывает очевидную проблему с фундаментальной нехваткой прозрачности в ИИ индустрии.

Больше всего настораживает исследователей оценка категории «Влияние» каждой модели. Речь идёт о влиянии на пользователей и политике пользования. Ни одна из моделей не делится никакой информацией о влиянии технологии ИИ на общество. Это включает информацию о том, в каких случаях пользователи жалуются на приватность, копирайт и предвзятости.

С индексом можно ознакомиться по ссылке: https://crfm.stanford.edu/fmti/