Szerzői:
Barend Mons, a Leideni Egyetem nyugalmazott professzora, a GO FAIR alapítvány igazgatótanácsának tagja és a LIFES, a FAIR és az Equitable tudományért indított Leideni Kezdeményezés igazgatója
Arie Baak, a LIFES Egyesület a FAIR és Méltányos Tudományért igazgatósági tagja
Koen Jonkers, Európai Bizottság, Közös Kutatóközpont (JRC), Brüsszel, Belgium
A mesterséges intelligencia átalakítja a tudomány működését, kommunikációját és validálását. Valódi ígéretet rejt magában, lehetővé téve a mintázatfelismerést olyan mértékben, amilyennel egyetlen emberi kutató sem vetekszik, felgyorsítva a munkafolyamatokat és új utakat nyitva meg a felfedezések előtt. A mesterséges intelligencia azonban gyors, nem hibamentes és válogatás nélküli, míg a tudomány időigényes és aprólékos tervezésű. E két valóság közötti feszültség már most komoly működési zavarokat okoz: a mesterséges intelligencia által generált publikációk és adatok özönét, a szakmai lektorálás minőségének romlását, a hallucinált eredményeket és a tudományos feljegyzésekbe vetett bizalom csökkenését. A jövő tudósaitól elvárt készségek alapvetően változnak, és a tudománypolitika nem tartott lépést. Ennek a hiányosságnak a kezelése sürgős.
A tudomány figyelemre méltó sebességgel váltott az adathiányos környezetből az adatgazdag környezetre. Míg a kutatók egykor szerény adathalmazokat generáltak, és eredményeiket elsősorban ember által olvasható cikkekben közölték, ma az exponenciális adatgenerálás korában működnek. Az adathalmazok nagy része magas dimenziójú, elosztott és csak gépek által feldolgozható. Ez a tendencia azonban nem tükröződik a tényleges adatújrafelhasználásban. Ennek megváltoztatásához magukat az adatokat mostantól első osztályú tudományos termékként kell kezelni, nem pedig cikkek melléktermékeként.
A gépek kiválóan alkalmasak mintázatok megtalálására nagy és összetett adathalmazokban. A gépeknek azonban nincs inherens fogalmi modelljük az ember számára releváns valóságról. Az eredmény a minták szinte korlátlan kínálata, sok hamis, némelyik félrevezető. A tudósok következő generációjának egyik központi kihívása az lesz, hogy eligazodjon ebben a mintadzsungelben: megkülönböztesse az értelmes jelet a statisztikai zajtól. Az emberi felügyelet nem opcionális; strukturálisan szükséges.
A döntéshozóknak azt is tisztában kell lenniük, hogy a mesterséges intelligencia a tudományban messze túlmutat a nagy nyelvi modelleken, amelyek jelenleg uralják a közbeszédet. A tágabb környezet magában foglalja a gépi tanulást a hipotézisek generálására, az automatizált kísérleti munkafolyamatokat és a tudásgráf-alapú érvelést, amelyek mindegyike eltérő kockázatokat és lehetőségeket hordoz magában, amelyek testreszabott irányítási válaszokat igényelnek.
A mesterséges intelligencia tudományban történő felhasználásának minőségét közvetlenül az adatok minősége határozza meg. bemenetA FAIR adatok (kereshető, hozzáférhető, interoperábilis és újrafelhasználható, és egyre inkább a teljesen mesterséges intelligenciára kész (Fully AI Ready) kifejezéssel jelölve) alapvető előfeltételei a felelős, mesterséges intelligencia által vezérelt tudománynak. Enélkül a mesterséges intelligencia modelleket nyers, kurátálatlan, potenciálisan elfogult vagy akár kitalált tartalmakon képezik, ami hallucinációkat okozhat, amelyek klinikai kontextusban életveszélyesek lehetnek, és amelyek szisztematikusan aláássák a tudományba vetett bizalmat. Különösen ott, ahol a könnyen megtalálható adatok újrafelhasználását többnyire nem tudományos alapú szereplők, például a jelenlegi LLM-cégek végzik.
Ugyanilyen fontos a FAIR fogalmi modellek használata a mesterséges intelligencia korlátozására. kimenetekStrukturált szemantikai keretek biztosításával, ahol minden fogalom jól definiált, hogyan kapcsolódik egymáshoz, és mi számít érvényes következtetésnek, ezek a modellek jelentősen csökkentik a hallucinációk kockázatát, és segítenek biztosítani, hogy a mesterséges intelligencia által generált eredmények az emberek számára magyarázhatók, értelmezhetők és ellenőrizhetők maradjanak.
A tudományos publikációk integritási válsága súlyosbítja ezeket a kockázatokat. A mesterséges intelligencia rendszerek ma már szinte azonnal képesek hihetőnek tűnő cikkeket, adatokat és ismertetőket generálni. Egy vezető mesterséges intelligencia konferenciára csak 2025-ben több mint 20 000 beadvány érkezett. A válasz (a tudósok mesterséges intelligenciát használnak a mesterséges intelligencia által generált cikkek áttekintésére) egy zárt, zajos visszacsatolási hurkot hoz létre, amelyben a hibás rendszerek érdemi külső ellenőrzés nélkül értékelik egymást. A forrásnál közzétett FAIR-adatok, ahol a származás ellenőrizhető, az egyik legmegbízhatóbb eszköz ennek a tendenciának az ellensúlyozására.
Mindezek mögött az ösztönzők strukturális hiányosságai állnak. A kutatókat továbbra is elsősorban a cikkek száma és az idézettségi arány alapján jutalmazzák, ami egy olyan mérőszám, amelyet az adathiányos korszakra terveztek. A kiváló minőségű FAIR-adatok közzététele kevés szakmai elismeréssel és garantált finanszírozási fedezettel jár. Ezen változtatni kell.
A tudományos adatok technikai irányítási környezete válságban van. A néhány nagy felhőszolgáltatótól való évtizedes függőség, valamint az olyan jogi eszközök, mint az amerikai felhőtörvény, olyan adatszuverenitási problémát teremtettek, amely mára akuttá vált, különösen az Egyesült Államok közelmúltbeli politikai instabilitásának és annak a nemzetközileg megosztott kutatási infrastruktúrára gyakorolt hatásainak fényében. A világ számos alapvető tudományos adatforrása gyakorlatilag kívül esik az azokat létrehozó intézmények és közösségek joghatósági ellenőrzésén.
A FAIR-elvek, kiegészítve a CARE-elvekkel (amelyek az őslakos népek adatkezeléssel kapcsolatos jogaival és érdekeivel foglalkoznak), koherens keretet biztosítanak a felelős adatkezeléshez. Együttesen határozzák meg azokat a feltételeket, amelyek mellett az adatoknak nyitottnak vagy korlátozottnak, újrafelhasználhatónak és szuverénnek kell lenniük. Az Internet of FAIR Data and Services (IFDS) koncepciója, amelyben az adatok a forrásuknál maradnak, és engedélyezett algoritmusok látogatják meg őket, ahelyett, hogy másolnák és központosítanák őket, gyakorlatias architekturális választ kínál. Ebben a modellben a számítási lekérdezések elosztott adatcsomópontokba jutnak; az adatok nem jutnak el központosított adattárakba, kivéve, ha elkerülhetetlen.
A mesterséges intelligencia által vezérelt tudományban való méltányos részvételhez az is szükséges, hogy ez az infrastruktúra valóban hozzáférhető legyen. A globális Dél intézményei és közösségei nem lehetnek passzív alanyai az adatok újrafelhasználásának. Az összekapcsoltság spektrumának másik végén az adatintenzív iparágakat sem szabad kizárni. Az elosztott FAIR infrastruktúra, amelyet úgy terveztek, hogy elkerülje a szállítóhoz való kötődést és az egyetlen meghibásodási pontot, az a mechanizmus, amely lehetővé teszi az érdemi részvételt.
Egy koherens szakpolitikai válasz több fronton történő cselekvést igényel:
A tudomány globális közjó. Integritását, méltányosságát és nyitottságát nem lehet feltételezni; aktív politikai döntéseket igényelnek. A tudományos termelésben a mesterséges intelligencia megfelelő irányításának megteremtésére nyitva áll az idő, de ez nem marad így a végtelenségig. Az adatszabványokkal, az infrastruktúrával, az ösztönzőkkel és a felügyelettel kapcsolatos, most meghozott döntések fogják meghatározni, hogy a mesterséges intelligencia felgyorsítja-e a megbízható tudományt, vagy szisztematikusan aláássa azt.
Fotó: Getty Images Unsplash+
A Nemzetközi Tudományos Tanács (ISC) és a Frontiers Policy Labs partnerségében működő blog a következő projekt része: „Új irányítás a tudomány számára a 21. században”" sorozat, amely dinamikus vitafórumként szolgál a tudományos irányítás jövőjéről szóló gondolatvezetők számára. A merev tudományos tanulmányoktól eltávolodva a kezdeményezés vezető globális hangokat hoz össze, hogy éles, provokatív, de bizonyítékokon alapuló és előremutató véleménycikkeket tegyenek közzé. Ezzel hozzá kíván járulni egy rugalmas, befogadó és átlátható irányítási modell meghatározásához, amely felkészült a holnap kihívásaira.
Lásd az eredeti bejegyzést itt .
Jogi nyilatkozat
A vendégblogjainkban bemutatott információk, vélemények és ajánlások az egyes közreműködők sajátjai, és nem feltétlenül tükrözik a Nemzetközi Tudományos Tanács értékeit és meggyőződését.
További információ a feltörekvő technológiákról és átalakulásokról További információ a Modern tudományról: a változás geostratégiai, technológiai és társadalmi mozgatórugóiról Tudjon meg többet a szervezett tudományról a mesterséges intelligencia korában: Alszunk a volánnál? című cikkről. 
Tudjon meg többet a Csendes-óceáni Tudományos Akadémia első mesterséges intelligenciával működő kutatási platformjának elindításáról és a regionális K+F értékelő jelentésről 