Binnenland·winmagpro.nl·8 mei

Best practices voor het implementeren van AI-agents: bescherm ze als kroonjuwelen

Op 9 maart maakte beveiligingsbedrijf CodeWall.ai via een demonstratie bekend hoe het het AI-platform van McKinsey & Company, genaamd Lilli, had gehackt. Lilli is een speciaal ontwikkeld systeem voor meer dan 43.000 medewerkers om documenten te analyseren, te chatten en toegang te krijgen tot decennia aan eigen onderzoek. De onderzoekers van CodeWall.ai zetten een AI-agent in die snel 200 endpoints scande, er 22 identificeerde waarvoor geen authenticatie vereist was en één endpoint selecteerde waarbij zoekopdrachten van gebruikers naar een database werden geschreven, inclusief niet-geparameteriseerde JSON-sleutels die direct in SQL werden samengevoegd.