В западной науке невероятный скандал. В серьезных журналах, в которых по идее все до запятой проверено, обнаружены десятки, если не сотни фейковых статей. Их сгенернировал ИИ, и их никто не проверял перед публикацией. Речь идет о крахе системы научного знания вообще: верить больше никому нельзя. «Отмена» российских ученых и лживые «исследования» - звенья одной цепи, говорят опрошенные нами эксперты.
МЫШИНЫЙ СКАНДАЛ
Все началось несколько недель назад. В журнале Frontiers in Cell and Developmental Biology опубликована статья «Клеточные функции сперматогониальных стволовых …». Читатели сразу обратили внимание на странную картинку: на ней красовалась мышь с громадным, больше нее, мужским половым членом. Сейчас статья удалена. «Статья не соответствует стандартам редакционной и научной строгости, поэтому была отозвана», сказано на сайте журнала. В реальности текст от и до написал ИИ. Нейросеть спалилась, когда принялась рисовать ту самую мышь, и «решила» похулиганить. Но это не смутило ни автора-человека, ни редакцию журнала.
Тут же пошли разговоры, что у журнала репутация так себе. В научном сообществе давно подозревали, что журнал только притворяется, что рецензирует тексты, а на самом деле печатает что угодно. Такие журналы называют «беспредельщиками», и там любят публиковаться ученые, которым сделать настоящее открытие не светит, а прогреметь хочется.
А что, в самом деле, есть такие журналы? А как же пресловутая научная строгость? Как же отчаянная борьба с лженаукой и «журналистами, которые все врут»?
МОРЯ ЛЖИ
Когда общественность нырнула под айсберг «академических журналов», оказалось, что уже много трещит под напором одного неприглядного явления. Иные журналы опубликуют вообще все, что пожелаете. Но за деньги.
Между собой ученые называют такие журналы «помойки», а научные коллективы, которые работают ТОЛЬКО на такие издания – «бумажными фабриками». О том, что такие «фабрики» вот-вот угробят науку в целом, вслух сказать боятся. Боятся. Чего? Ну, конечно, мести. Ты обидишь помоечный журнал. Потом окажется, что те же самые люди работают в приличном издании. Или их друзья работают. Тебе выпишут «волчий билет». И больше ты не напечатаешься нигде.
Насколько распространено это явление? Недавно единая база достоверных научных публикаций, Scopus, без лишней огласки удалила 160 тысяч (тысяч!) статей за три года. Это примерно 3% всех научных публикаций (сколько же ученые пишут, Лев Толстой позавидует). Издания, в которых они публиковались, система внесла в черный список. И это было еще пару лет назад, в эру до ИИ.
ЗАЧЕМ ЧИТАТЬ ТО, ЧТО НАПИСАЛ?
С прошлого года нейросети стали так хороши, что студенты и школьники схватились за телефоны, которые теперь выдают им «уникальные» рефераты (а что не так? в самом деле, нет второго такого), а преподаватели схватились за головы.
Но кто за головы, а кто – тоже за телефоны. Ученые просят ИИ написать им статьи – да в таком виде и сдают.
Как ловят студентов-халтурщиков? ИИ пока что (ИИ быстро учится, так что это ненадолго) вставляет в текст характерные словечки. Например, «я всего лишь машина, и у меня нет своего мнения, но…» или «на момент последнего обновления моей базы данных…» Но ловкий студент выкидывает эти обороты. А ученому – зачем? Человек занятой. Так и сдает в печать.
Сейчас научное сообщество рыщет по базам, где собираются научные статьи, и ищет характерные для ИИ словечки. Чтобы отловить фейковые статьи. Знаете, сколько их? Сотни и тысячи. Сколько статей, где автор-человек хотя бы вычитал текст, и он неуязвим для такой проверки? Не десятки ли тысяч?
А что пойманные за руку бракоделы? А ничего. Например, в журнале Surfaces and Interfaces нашли статью о свойствах меди, в которой есть слова «вот возможное введение в вашу тему». Видимо, ученый сделал нейросети запрос, «напиши мне введение на такую-то тему». На что ИИ ответил, «вот введение…». В статью так и пошло. А еще – хотя шум вокруг текста гремит уже с неделю, не удалена ни статья, ни эти скандальные слова. Собака лает, караван идет.
ЕСЛИ НЕ В СТАЕ – ТЫ ОБРЕЧЕН
А что случилось-то с вами, дорогие западные ученые? С чего вы вдруг и ум, и совесть потеряли? Конечно, тут же готова удобная версия: это все китайцы. Англосакс-то на такое не способен. Соответственно, на свет вытаскиваются в первую очередь статьи, где есть китайские авторы. Вот только вранье, будто китайцы виноваты.
Два мощных научных блогера выпустили недавно характерные видосы. Австралиец Дерек Мюллер припомнил статью 2022 года в журнале Nature, где расписывалось: квантовый компьютер создал всамделишную кротовую нору. Конечно, это фейк. Квантовый компьютер не может ничего создать, и вообще кротовых нор (пока) не существует. Новость разнеслась по миру – это же Nature, это же твердыня и бастион. Разнеслась, и забылась, ибо неправда. А вы не заметили, что вообще стало много «выдающихся открытий», про которые забывают подозрительно быстро?
А блогер Сабина Хоссельфельдер припомнила древнюю, но неувядающую историю. Все же знают, что пластик надо перерабатывать, иначе – глобальное потепление и все умрут? А кто знает, что изначально этот фейк запустили ученые, связанные с нефтяными компаниями Exxon, Chevron и иже с ними, потому что эти компании сами собирались заняться переработкой? То было еще в 90-е, но с тех пор ты не напечатаешь статью, если усомнишься в выгодах переработки пластика. Или просто задашь вопрос, а сколько выбросов СО2 производится в ходе переработки? И не вредит ли переработка природе еще больше? Хваленые рецензируемые журналы принимают только статьи про ужасы микропластика, про страшное глобальное потепление, и ни шагу вбок от генеральной линии.
Вот она, причина-то: политическая пристрастность и «чье кушаю, того и слушаю» давным-давно разрушило величественное здание честной науки. Фасад только остался. Теперь на Западе новая забава: выгонять русских ученых.
- Никакой беспристрастности, конечно, давно нет – вот взяли, попросили наших из ЦЕРН, несмотря на то, сколько россияне сделали и для самого проекта, и для исследований на нем, - говорит кандидат наук, физик, сотрудник ИЗМИРАН Валерий Петров, — Не секрет также, что российскому ученому сейчас практически невозможно опубликоваться на Западе.
Именно этот паршивый тренд, тут пишем, тут не пишем, этих печатаем, этих нет, и превратил систему рецензируемых журналов в собрание недостоверных фактов.
К сожалению, и в России есть журналы, которые вроде как рецензируются, но на самом деле статьи, поступившие туда, никто не читает, сетует Петров. Здесь срабатывает другой эффект: желающих заниматься наукой все меньше, ученых, готовых тратить время на рецензирование, тем более, так что рецензирование может носить формальный характер.
Коммерция – другая причина, испортившая высокую науку. Когда лет сорок назад компании завели свои лаборатории, все радовались, а теперь что радоваться-то? Коммерсанты раздают гранты, все хотят им угодить, а неугодные идеи блокируются. Впрочем, полагает Валерий Петров, эта причина не главная:
- К грантам более серьезное отношение, потому что это деньги, — говорит он, но и признает, нравы тут вообще не спортивные, — Если можно кого-то выкинуть из гонки за грант, выкинут. И, скорее всего, ты получишь грант, если у тебя известный в научных или околонаучных кругах соавтор. Будь ты сам семи пядей во лбу, но никому не известен, ничего тебе не дадут.
Говорить о «крахе научной системы» все-таки рановато, полагает профессор, доктор биологических наук Ирина Беме:
- Большинство исследований честно пишутся и честно рецензируются. Факты фальсифицируют только недобросовестные люди.
Но то, что россиян из науки выбрасывают, это, конечно, за гранью. Наука невероятно пострадает:
- Она больше не всемирная, она опять разошлась по национальным «квартирам». В России будут открывать важные вещи, и никто не узнает – это как? В СССР зачастую так и было, но ограничения шли с нашей стороны. Теперь с их стороны. Ничего хорошего в результате не будет. Конечно, добросовестные ученые, и наши, и не наши стараются обойти безумные ограничения и поддерживают контакты несмотря ни на что, — резюмирует она.
Евгений АРСЮХИН
Фото: Речь идет о крахе системы научного знания вообще: верить больше никому нельзя / Фото: Shutterstock
