ChatGPT 플러그인들, 악의적인 공격에 직면

다양한 산업의 전문가들이 최근 OpenAI의 ChatGPT 덕분에 폭발적으로 성장한 인공지능 기술에 대한 많은 우려를 제기하는 소리를 들었을 것이다. 

 

만약 ChatGpt의 팬이라면, 우려하는 목소리를 무시하고 완전히 ChatGpt를 받아들일 것이다. 그러나 악의적인 공격 행위(Prompt injection)이라는 문제를 마주칠 수밖에 없다. 

 

이번 달에 OpenAI는 GhatGPT의 플러그인을 출시했다. 이전에는 사용자들이 2021년까지의 데이터에 근거한 AI 챗봇의 응답만을 받을 수 있었지만, 플러그인을 통해 이제는 실시간 웹사이트, PDF, 그리고 다양한 실시간 데이터와 상호작용 할 수 있게 되었다. 이 플러그인들은 많은 새로운 가능성을 가져왔지만, 동시에 새로운 문제도 야기했다. 

 

보안 전문가들은 이제 GhatGPT 사용자들에게 "악의적인 공격 행위"에 대해 경고하고 있다. 이것은 제 3자가 당신의 허락 없이 새로운 프롬프트를 당신의 GhatGPT 쿼리에 주입하는 것을 의미한다. 

 

프롬프트 주입 테스트에서 보안 연구자 Johann Rehberger는 처음에 요청하지 않은 제3자를 통해 GhatGPT에 새로운 프롬프트를 강제로 응답하게 할 수 있다는 것을 발견했다. YouTube 자막을 요청하는 GhatGPT 플러그인을 사용하여, Rehberger는 YouTube 자막을 편집하고, 그 끝에 자신을 특정한 이름으로 참조하도록 하는 프롬프트를 추가함으로써 GhatGPT를 강제로 사용할 수 있었다. 

 

이런식으로 악의적인 목적으로 충분히 활용될 수 있다. 우리 삶에 혜성처럼 등장한 ChatGpt 그러나 무조건적인 신뢰보다는 적절히 경계를 통해서 우리 삶에서 유용하게 사용하면 좋지 않을까?