Angarsky
Главная·Общество
Общество

Ученый рассказал об отказах ИИ описывать даже безопасные опыты

Запреты в нейросетях мешают специалистам готовить научные эксперименты. Отказ можно получить даже при запросе о безопасной реакции. Об этом ТАСС сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета, автор блога «Химия — Просто» Александр Иванов.

Для научно-популярных программ Иванов и его коллеги с помощью ИИ разрабатывают сценарии и ищут эксперименты, которые можно продемонстрировать зрителям. Но нейросети вместо описания опыта предупреждают о риске и отвечают, что проводить его должны люди со специальной подготовкой. По словам инженера, такие ограничения осложняют применение ИИ в работе профессионалов.

Иванов отметил, что проверить предложенные нейросетью сведения и заметить ошибку специалистам позволяют их знания. Без такой подготовки пользователь рискует принять неверный ответ за достоверный. Инженер не исключил, что ИИ по-прежнему может давать советы, способные обернуться травмами для тех, кто им последует.

Сравнивая нынешние возможности сервисов с прошлогодними, Иванов рассказал, что раньше они предлагали больше вариантов. Однако в ответах попадались и несуществующие химические реакции. Сейчас, по его оценке, запретов стало значительно больше, причем под них попадают и безопасные эксперименты.

Как вам материал?
0
0
0
0
0
0
Loading...
loading