Космопорт "Nefelana"

В последние годы генеративный искусственный интеллект (ГИИ) стал все более популярным и широко применяемым в различных областях, от финансового планирования до медицинской консультации.

Однако, в связи с быстрым ростом его использования, возникает вопрос о надежности таких моделей.



 

Группа учёных из США провела исследование, в ходе которого были протестированы модели GPT-3.5 и GPT-4 на 8 различных критериях, включая токсичность, предвзятость и устойчивость. Результаты исследования показали, что новые модели имеют меньшую токсичность по сравнению с предыдущими версиями, однако все равно могут выдавать токсичные и предвзятые ответы ... Читать дальше »

Почему эта технология опасна?

Американская компания Collaborations Pharmaceuticals, разрабатывающая технологии для поиска новых лекарств в области редких заболеваний, создала программу MegaSyn на основе искусственного интеллекта (ИИ), которая всего за шесть часов сгенерировала около 40 тысяч опасных молекул.





Для этого ученые поменяли настройки: они запрограммировали устройство на поиск токсических веществ, а не их отсутствие.

Основная задача программы MegaSyn заключается в разработке новых лекарств.

Ученые тренируют алгоритмы машинного обучения для лучшего обнаружения токсическ ... Читать дальше »