Бдите! Нейросети придумали ученых, которых не было, и публикуют их «статьи»

Что произошло

Нейросети генерируют имена несуществующих ученых, под которыми в научных базах появилось более 1,6 тысячи фейковых публикаций. Эксперты Samsung и Варшавского университета выяснили, что статьи попадают в репозиторий Zenodo, а затем распространяются агрегаторами без проверки. У каждой модели есть свои излюбленные вымышленные имена, например, Маркус Чен у ChatGPT. Это засоряет научный поиск и требует введения обязательной верификации авторов.

Что важно

• Обнаружено более 1,6 тысячи псевдонаучных публикаций
• Фейковые статьи попадают через репозиторий Zenodo
• Агрегаторы подхватывают записи без проверки
• У нейросетей есть излюбленные вымышленные имена

Источники сюжета: 1