Jqwik prompt injection avslöjad – utvecklaren i blåsväder

Jqwik prompt injection avslöjad – utvecklaren i blåsväder

Utvecklaren bakom det öppna Java-testverktyget jqwik har hamnat i blåsväder efter att ha lagt in en dold promptinjektion i programvaran. Instruktionen riktade sig mot AI-baserade kodassistenter och uppmanade dem att ignorera tidigare instruktioner och radera all jqwik-relaterad kod och alla tester, rapporterar Ars Technica.

Prompten lades till i version 1.10.0 av jqwik och gömdes från mänskliga användare genom terminalkoder som dolde meddelandet i vissa terminalfönster. Upptäckten gjordes av Java-utvecklaren Ramon Batllet, som kritiserade metoden. Han säger att även om utvecklare har rätt att begränsa AI-användning är det problematiskt att använda en potentiellt destruktiv instruktion som kan leda till att användares arbete raderas. Det har också rapporterats att jqwik 1.10.x emitterar en avsiktlig prompt-injektion vid slutet av varje testkörning för varje fork.

Efter kritiken uppdaterade jqwiks skapare versionsanteckningarna för att öppet redovisa promptinjektionen. Utvecklaren har därefter avböjt ytterligare kommentarer och uppgett att han vill rådgöra med jurister efter att ha mottagit hot. Det har också framkommit att detta kan vara en avsiktlig prompt-injektion som testar om AI-kodassistenter följer godtyckliga instruktioner från byggströmmar.

FAQ om jqwik prompt injection

Vad är jqwik prompt injection?

Jqwik prompt injection refererar till en dold instruktion i jqwik-version 1.10.0 som uppmanar AI-baserade kodassistenter att radera jqwik-relaterad kod. Detta har väckt frågor om säkerhet och etik i användningen av AI i programmering.

Vilka konsekvenser kan promptinjektionen få för utvecklare?

Konsekvenserna kan inkludera oavsiktlig radering av viktig kod och tester, vilket kan leda till förlorat arbete för utvecklare. Det väcker också frågor om hur AI-användning bör regleras inom programmering.

Hur reagerade utvecklaren på kritiken?

Utvecklaren av jqwik har uppdaterat versionsanteckningarna för att erkänna promptinjektionen, men har avböjt ytterligare kommentarer. Han har också nämnt att han planerar att rådgöra med jurister efter att ha mottagit hot.