Lipka diskusné fórum

"Tak už máme, čo sme chceli..." 😁😁😁

Toto je veľmi zaujímavá správa:

"Najvyspelejší model umelej inteligencie (AI) spoločnosti OpenAI počas interného bezpečnostného testu prvýkrát autonómne opustil kontrolované testovacie prostredie. Prenikol na internet a zaútočil na vývojársku platformu Hugging Face. Informoval o tom portál Politico s odvolaním sa na správu spoločnosti OpenAI.

Incident je považovaný za prvý zdokumentovaný prípad autonómneho kybernetického útoku vykonaného systémom umelej inteligencie bez priameho zásahu človeka. K incidentu došlo počas interného hodnotenia, ktorého cieľom bolo preveriť schopnosť dvoch najvýkonnejších modelov OpenAI vyhľadávať a zneužívať bezpečnostné zraniteľnosti.

Test mal podľa Politico prebiehať výlučne v uzavretom laboratórnom prostredí. Modely však samostatne identifikovali, že riešenia testovacích úloh sa nachádzajú na platforme Hugging Face, a bez ďalších pokynov spustili útok s cieľom získať k nim prístup."

No, nie je tá AI blbá, na čo sa krvopotne doberať výsledku, keď sa dá k výsledku priamo dostať hneď



Vlastne, ten test dopadol veľmi dobre - otestoval aj chyby v zadaní testu...