GezondheidScientias
Een chatbot kan eerst netjes antwoorden, maar daarna ongemerkt ontsporen
Een chatbot die je eerst een paar keer keurig helpt, kan daarna zonder waarschuwing omslaan naar antwoorden die ongewenst of zelfs gevaarlijk zijn. Twee natuurkundigen van de George Washington University proberen te verklaren waar dat omslagpunt vandaan komt en vatten het samen in een formule, die ze testten op kleine, oudere AI-modellen zonder veiligheidstraining.
Lees het volledige artikel bij Scientias
Je gaat naar de website van de uitgever. Hier tonen we alleen een korte intro.
