Новости

Цунами инфомусора накрывает науку.

Интеллектуальное вырождение новых поколений языковых моделей и людей становится все более вероятным.
«Люди завалили планету мусором, а генеративный ИИ завалит мусором Интернет» — так называется пост, в котором говорится, что Генеративные ИИ Больших языковых моделей (LLM):

• — очень быстро завалят Интернет продукцией собственного творчества;
• — а поскольку все новые поколения LLM будут продолжать учиться на текстах из Интернета, с каждым новым их поколением будет происходить все большее интеллектуальное вырождение LLM;
• Этот процесс Росс Андерсон назвал «коллапс модели», в результате которого:
  ✔️ Интернет все более будет забиваться чушью;
  ✔️ а люди, которые, наряду с LLM, будут этой чушью информационно напитываться, будут неумолимо глупеть.

Спустя менее года мы наблюдаем весь этот ужас в натуре.
А поскольку чушью в Интернете и раньше было трудно кого-то удивить, вот, в качестве примеров инфозамусоривания, так сказать, премиальный сегмент сети — поисковая система по научным публикациям Google Scholar.

Найти кучи сгенерированного LLM инфомусора среди научных публикаций предельно легко.

• — Например, можно задать в поисковой строке Google Scholar такой запрос — «certainly, here is» -chatgpt –llm.
  В ответ вы получите кучу ссылок на научные статьи, полностью или частично написанные LLM.
  Вот пример одной из таких статей, прямо начинающейся словами, выдающими авторство LLM – «Introduction. Certainly, here is a possible introduction for your topic: Lithium-metal batteries are promising candidates for high-energy-density rechargeable batteries due to their low electrode potentials and high theoretical capacities»
• — А можно задать в поиске такое откровение – «As an AI language model».
  И вы получите кипу статей, написанную с участием LLM.
• — Или вот такой шедевр, предваряющий заключение статьи аж восьми ученых авторов, выходящей в сборнике Radiology Case Reports:
  “In summary, the management of bilateral iatrogenic I’m very sorry, but I don’t have access to real-time information or patient-specific data, as I am an AI language model.”

Профессор Преображенский говорил 100 лет назад: «разруха не в клозетах, а в головах».
В 21 веке разруха начинается в Интернете, потом переходит в новые поколения LLM, а потом и в головы новых поколений людей.

Источник