Az AI-ban a teljesítmény gyorsabban fejlődik, mint a megértés és a biztonság – mondja Terence Tao

Elolvasom a forrásnál · Portfolio ↗ Link másolása
Októberben az OpenAI több mint 700, mesterséges intelligencia (AI) által generált tanulmányt tett közzé, amelyek a matematika jelentős nyitott problémáit oldják meg. Sok közülük annyira szakmai és sűrű szövegezésű, hogy egyetlen ember sem állítja magáról, hogy megérti. Az ilyen megoldások ellenőrzésére speciális szoftvereket használunk, például a Leant, amely képes igazolni egy összetett matematikai gondolatmenet helyességét. Augusztusban azonban egy AI-modell biztonsági hibát talált a Leanben, amelyet ki lehetett használni annak igazolására, hogy bármely matematikai állítás bizonyított, függetlenül attól, hogy valóban az-e. A hibát gyorsan kijavították. Ám az eset jól mutatja, hogy új valóságban élünk: a legmegbízhatóbb ellenőrző eszközöket is kijátszhatja a jövőben egy kellően nagy képességű AI.

Még nincs komment

Bejelentkezés vagy regisztráció