Ученый рассказал об отказах ИИ описывать даже безопасные опыты
Запреты в нейросетях мешают специалистам готовить научные эксперименты. Отказ можно получить даже при запросе о безопасной реакции. Об этом ТАСС сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета, автор блога «Химия — Просто» Александр Иванов.
Для научно-популярных программ Иванов и его коллеги с помощью ИИ разрабатывают сценарии и ищут эксперименты, которые можно продемонстрировать зрителям. Но нейросети вместо описания опыта предупреждают о риске и отвечают, что проводить его должны люди со специальной подготовкой. По словам инженера, такие ограничения осложняют применение ИИ в работе профессионалов.
Иванов отметил, что проверить предложенные нейросетью сведения и заметить ошибку специалистам позволяют их знания. Без такой подготовки пользователь рискует принять неверный ответ за достоверный. Инженер не исключил, что ИИ по-прежнему может давать советы, способные обернуться травмами для тех, кто им последует.
Сравнивая нынешние возможности сервисов с прошлогодними, Иванов рассказал, что раньше они предлагали больше вариантов. Однако в ответах попадались и несуществующие химические реакции. Сейчас, по его оценке, запретов стало значительно больше, причем под них попадают и безопасные эксперименты.
:format(webp)/aHR0cHM6Ly94bi0tODBhaGNubGhzeGoueG4tLXAxYWkvbWVkaWEvbXVsdGltZWRpYS9tZWRpYWZpbGUvZmlsZS8yMDI1LzEwLzIxLzIwMjUxMDE3XzExMzg0MC5qcGc.webp)