A szerzőről: Amy Brand az MIT Press igazgatója és kiadója, ezt a pozíciót 2015 óta tölti be. Kognitív tudós végzettséggel rendelkezik, PhD fokozatát az MIT-n szerezte, és vezető pozíciókat töltött be a CrossRefnél, a Harvardon és a Digital Science-nél. A CRediT taxonómia társalapítója, az ORCID igazgatótanácsának alapító tagja és a Picture a Scientist című dokumentumfilm producere. Brand széles körben elismert a kutatási infrastruktúrához, a tudományos kommunikációhoz és a tudományban való méltányossághoz való hozzájárulásáért. Kitüntetései közé tartozik a Tudományos Szerkesztők Tanácsának díja és az AAAS Kavli Tudományos Újságírói Aranydíj.
A tudomány elengedhetetlen az emberi fejlődéshez. Szintén létfontosságú, bár kevésbé nyilvánvalóan, az is, hogyan terjesztjük a tudományt. A publikálás, mint a tudás felfedezhetővé és hitelessé válásának rendszere, a kutatási infrastruktúra alapvető eleme.
Hogyan kellene a publikálásnak alkalmazkodnia ahhoz, hogy kiszolgálja a cenzúrával, a csökkenő finanszírozással és a generatív mesterséges intelligenciarendszerek gyors térnyerésével szembesülő kutatói közösség igényeit, amelyek elszívják a tudást, miközben aláássák annak integritását? Mint aki évtizedekig dolgozott a kutatásban, az egyetemi adminisztrációban és a publikálásban, soha nem láttam még olyan nagy tétet, mint ma a tudomány jövője szempontjából. és a tudományos kommunikáció.
A körülöttünk lévő társadalmi-politikai rendszerek összeomlásával kísértésbe esünk, hogy a generatív mesterséges intelligenciát a világ problémáinak alkímiai megoldásaként tekintsük. A nagy nyelvi modellek (LLM-ek) csábító kapukként jelentek meg a felfedezéshez, azonnali válaszokat, zökkenőmentes szintézist és a tudás látszólagos demokratizálását kínálva. Vonzerejük azonban elrejti azt a potenciáljukat, hogy olyan rendszerekként működnek, amelyek egyben felgyorsítják a félretájékoztatást, a csalást és a propagandát. Tervezésüknél fogva olyan tartalmat hoznak létre, amely nagyon is hihetőnek tűnik, de gyakran félrevezető vagy egyszerűen téves. Veszélyes a tudomány számára, ha a validálás nehéz és drága, míg az „igazságosság” olcsó és jövedelmező, különösen tekintve, milyen könnyű becsapni az emberi elmét.
Igen, fel akarjuk gyorsítani a felfedezéseket és a problémamegoldást a lesújtó globális kihívásokkal szemben. Hinni akarunk azokban a gépekben, amelyek gyorsabban képesek megoldani a problémákat, mint az emberi kognitív architektúra vagy a rosszul működő intézményeink. De amikor a korlátlan mesterséges intelligencia-képzés hívei azzal érvelnek, hogy erkölcsi kötelesség minden tudományos tartalom és adat elérhetővé tétele az innováció felgyorsítása érdekében, a történelem óvatosságra int.
Láttunk már ilyet korábban. A korai internetet a kifejezés és az egyetemes tudás demokratizáló erejének tekintették. Végül a szabályozás hiánya lehetővé tette, hogy a hatalmas kereskedelmi platformok uralják a teret, aláásva a bizalmat és összeomolva a gazdasági modelleket mind a hírek, mind a kutatási tartalmak esetében. Ma már azt is tudjuk, hogy a kiforratlan nyílt hozzáférésű politikák felgyorsították a kiadványok konszolidációját, és gazdasági ösztönzőket teremtettek a több publikálásra, kevesebb minőségellenőrzés mellett.
Álljunk meg egy pillanatra, és gondoljuk át, mi a legjobb az emberi megértés, a tanulás és a tudás fejlődése szempontjából. Amikor a keresés csak mesterséges intelligencia által generált összefoglalásokhoz vezet, és a felhasználók nem kattintanak át eredeti forrásokra, és amikor az élvezetből való olvasás egyszerű cselekedete rohamosan hanyatlik, hogyan kerülhetjük el azt a jövőt, amikor a tartalmakat csak gépek fogyasztása céljából szerkesztjük és publikáljuk?
Úgy hiszem, hogy a kiadók létfontosságú szerepét, amelyet a kutatás hatásának és integritásának támogatásában játszanak, érdemes megőrizni és védeni. különösen most. Megértem a magas publikációs díjak és az előfizetési fizetős falak miatti frusztrációt, különösen a nagyobb kiadók részéről, akik egy olyan akadémiai presztízspiacot kihasználtak, amely történelmileg nem volt árérzékeny. De az iparágunk nem egyetlen monolitikus, profitorientált entitás. A non-profit kiadók, mint például az MIT Press és számos tudományos társaság, eltérő értékekkel és kisebb haszonkulcsokkal működnek.
Valójában jobban fenyeget minket a mesterséges intelligencia általi földszerzés, sőt néha még azok a nyílt tudomány mozgalmak is, amelyeket régóta támogatunk. Ezért ellen kell állnunk az olyan erkölcsi pózolásnak, amely figyelmen kívül hagyja a hatalmi dinamikát. A „nyíltság” eszméjét olyan glória övezi, amely elhomályosíthatja a valós világ olyan összetett kérdéseit, mint a gazdaság és az ösztönzők. Végső soron nem minden nyitottság erényes; nem minden nyitottsággal szembeni ellenállás obstrukcionista.
Egy másik tévhit, hogy a kiadók érdekei nincsenek összhangban a kutatók érdekeivel. Nemrégiben végeztünk egy felmérést szerzők széles körű felmérése a STEM területeken a munkájuk jogosulatlan felhasználásával kapcsolatban az LLM képzésben. A túlnyomó többségük ellenzi ezt a gyakorlatot, annak ellenére, hogy hiszi, hogy a mesterséges intelligencia transzformatív felfedezési és tanulási utakat ígér. Elvárják, hogy hozzájárulhassanak vagy ne járulhassanak hozzá az ilyen felhasználáshoz, és elvárják a forrásmegjelölést, amikor munkájuk befolyásolja az LLM kimeneteket. Nem azonosítják az olvasásra nyitott és a képzésre nyitott megközelítést.
Sokan szkeptikusak a nagy mesterséges intelligencia cégek integritásával kapcsolatban is, és aggódnak amiatt, hogy az LLM-ek hogyan befolyásolják majd a publikálást, az olvasást, az írást, a kritikai gondolkodást és a kreativitást; ellaposítják a különböző nézőpontokat; és megerősítik az elfogultságokat és a kulturális hegemóniákat. Mélységesen aggódnak amiatt, hogy mi vész el, amikor az ember által írt munkákat tokenizált tanulóadatokká bontjuk, és olyan modellekbe tápláljuk, amelyek nem tudják megőrizni a kontextusukat vagy az érvelésüket.
Az a kérdés, hogy a publikált tudományos eredményeket hogyan és milyen feltételek mellett használják fel az LLM-ek képzésére, nem csupán a szerzői jogokról szól. Arról is szól, hogy ki ellenőrzi a tudás jövőjét. Átadjuk-e a hatalmat az átláthatatlan, kitermelő iparágaknak, amelyek kevés elszámoltathatósággal rendelkeznek a kutatói közösség felé? Vagy olyan rendszereket építünk, amelyek megőrzik a forrásmegjelölést, az integritást és a fenntarthatóságot? Ha komolyan vesszük az emberi virágzást, a bizonyítékokon alapuló tudományt és a tudás növekedésének feltételeinek védelmét, akkor a kutatói közösségnek és intézményeinek körültekintően kell eljárniuk.
Kinek az érdekeit szolgálja, ha a publikált tudományos munkákat és eredményeket egy rendkívül kizsákmányoló, átláthatatlan technológiai szektornak adjuk át? Követjük a logikát: a szerzők, intézmények és finanszírozók által fizetett nyílt publikációs díjak teljes értékét végül olyan szervezetek kapják, mint az OpenAI és az Anthropic. Ami a kitermelő iparágakat illeti, legyünk őszinték abban is, hogy az MI-szektor értéke hogyan viszonyul az akadémiai kiadókéhoz.
Én magam továbbra is optimista vagyok azzal kapcsolatban, hogy gondos tervezéssel és bizonyítékokon alapuló politikával a mesterséges intelligencia segítségével javítani tudjuk a szakmai lektorálást, fokozni tudjuk az ismételhetőséget, valamint egyszerűsíteni tudjuk a publikálási munkafolyamatokat és költségeket. Akár olyan megoldásokat is kidolgozhatunk, amelyek segítenek fenntartani a tudományos publikálás jó oldalait.
A jelenlegi paradigma azonban, amelyben a közzétett dokumentumokat beleegyezés nélkül kibányásszák és magán techóriások pénzzé teszik, etikátlan és romboló a tudomány és a tudományos munka szempontjából. Emellett mágikus gondolkodást tükröz arról, hogyan működik komplex világunk, és hogyan érhetünk el valódi előrelépést az előttünk álló egzisztenciális problémák megoldásában.
Jogi nyilatkozat
A vendégblogjainkban bemutatott információk, vélemények és ajánlások az egyes közreműködők sajátjai, és nem feltétlenül tükrözik a Nemzetközi Tudományos Tanács értékeit és meggyőződését.
Kapja meg a jövőbeli nyílt tudományról szóló összefoglalókat közvetlenül a postaládájába – Iratkozz fel most.
Fotó Martin Adams on Unsplash
További információ az ISC Publikációs és Kutatásértékelési Fórumról Tudjon meg többet a Nyílt Tudomány összefoglalójáról: a kutatási reform mögött rejlő infrastruktúra További információ a következőről: A jelenlegi világunkhoz vagy ahhoz a világhoz építünk globális tudásinfrastruktúrát, amelyet megpróbálunk létrehozni? További információ a Nyílt Tudomány összefoglalójáról: Hogyan számítanak az előzetes nyomtatások? 
