Специалисты РГПУ имени А. И. Герцена создали сервис для распознавания фейковых научных ссылок, сгенерированных через ИИ
Ранее сотрудники фундаментальной библиотеки имени императрицы Марии Федоровны провели исследование, позволяющее находить сгенерированные фейковые ссылки на научную литературу в уже опубликованных работах в авторитетных изданиях и, при переходе по ним, обнаруживать сгенерированные фрагменты текста.
По результатам обработки массива данных при участии специалистов Герценовского университета в систему идентификации ссылок Российского индекса научного цитирования (РИНЦ) был внедрен сервис поиска фейковых ссылок. Эти же наработки будут использованы системами распознавания плагиата.
Как рассказала на совещании под руководством ректора РГПУ имени А. И. Герцена Сергея Тарасова заместитель директора фундаментальной библиотеки Светлана Морозова, проблема использования сгенерированных и несуществующих ссылок на научную литературу была выявлена в прошлом году.
«Искусственный интеллект является отличным инструментом, который помогает исследователю при условии верификации полученной информации. В то же время сегодня мы говорим о «новом плагиате» – бездумном использовании текстов от генеративных моделей. Ранее сервисы распознавания некорректных заимствований могли выявить такие тексты по скрытым символам, содержащимся в них. Однако постепенно модели улучшили свою работу, и верифицировать тексты стало труднее. Вместе с тем, появилась новая проблема: появление придуманной ИИ библиографической информации, которая активно и системно вошла в русскоязычное научное публикационное пространство. Одними из первых на это обратили внимание эксперты Герценовского университета», – сообщила Светлана Морозова.
Разработки экспертов Герценовского университета в выявлении и верификации опубликованной информации были представлены как руководителям подразделений вуза и редколлегиям журналов, так и на международных и всероссийских мероприятиях. Весной 2026 года герценовцы представят методики верификации текстов ИИ в опубликованных научных статьях на научно-практической конференции РИНЦ «Science Analytics: статистика, аналитика и оценка научных исследований» и вебинаре для редколлегий и авторов российских научных журналов.
Данные исследования проводятся в вузе лабораториями «Когнитивные исследования в образовании» и «Искусственный интеллект в образовании». По словам Сергея Тарасова, было экспериментально доказано, что когнитивная вовлеченность в образовательную активность и структура когнитивной нагрузки, связанной с обработкой учебной информации, различаются в зависимости от типа используемого цифрового устройства.