Umělá inteligence Claude 3.5 Sonnet se doposud chovala podobně jako třeba ChatGPT a dokáže tedy odpovídat na dotazy, překládat a velmi dobře zpracovávat text. Teď ji její tvůrci pustili i na počítač, takže pomůže nejen radou, ale i konkrétní akcí při ovládání PC. Společnost Anthropic nyní nabízí veřejný beta test toho, čemu říká nástroje pro používání počítače (computer use tools).
Co Claude teď umí:
- Pohybovat kurzorem po obrazovce
- Klikat na požadovaná místa
- Zadávat text pomocí virtuální klávesnice
- Pracovat s běžným softwarem jako člověk
- Samostatně řešit problémy a překážky
Zdroj:
YouTube, Anthropic
Skrytá nebezpečí
S těmito novými schopnostmi přicházejí významná rizika:
1. Ztráta kontroly nad systémy
- AI může získat nežádoucí přístup k citlivým systémům a datům
- Existuje riziko nekontrolovaného šíření příkazů
- Možnost kaskádového selhání propojených systémů
2. Kybernetické hrozby
- "Prompt injection" vkládání škodlivých instrukcí
- Možnost zneužití pro automatizované kyberútoky
- Riziko průniku do zabezpečených systémů
3. Společenská rizika
- Možnost automatizovaného šíření dezinformací
- Narušení důvěry v digitální infrastrukturu
4. Ekonomická rizika
- Možnost manipulace s finančními systémy
- Automatizované podvody ve velkém měřítku
- Narušení ekonomických transakcí
Mohlo by vás zajímat
Bezpečnostní opatření
Anthropic implementoval několik úrovní zabezpečení:
1. AI Safety Level 2
- Základní bezpečnostní protokoly
- Monitoring aktivit
- Omezení přístupu k citlivým systémům
2. Ochranné mechanismy
- Detekce škodlivých instrukcí
- Omezení pro sociální média a vládní weby
- Systémy pro detekci zneužití
3. Ochrana dat
- Žádné trénování na uživatelských datech
- Ochrana soukromí při práci s obrazovkou
- Bezpečné nakládání se screenshoty
Budoucí vývoj a výzvy
I přes současná omezení (pomalost, chybovost, omezená funkcionalita) představuje tato technologie zásadní změnu v přístupu k AI. Namísto vytváření speciálních nástrojů se AI přizpůsobuje existujícím systémům.
Mezi očekávaná vylepšení patří zvýšení rychlosti a přesnosti, rozšíření funkcí (přetahování, zoom), plynulejší vnímání obrazovky a lepší reakce na změny.
Závěr
Schopnost AI ovládat počítače představuje dvojsečnou zbraň. Na jedné straně nabízí obrovský potenciál pro automatizaci a zvýšení produktivity, na straně druhé přináší bezprecedentní bezpečnostní rizika. Je klíčové, aby vývoj těchto technologií byl doprovázen robustními bezpečnostními opatřeními a etickými směrnicemi.
Anthropic zatím postupuje obezřetně a implementuje různá bezpečnostní opatření. Přesto bude kritické sledovat, jak se tato technologie bude vyvíjet a jaké další výzvy přinese její širší nasazení. Budoucnost počítačového ovládání umělou inteligencí je slibná, ale vyžaduje nejvyšší míru opatrnosti a odpovědnosti.
video
