구글의 인공지능(AI) 챗봇 '제미나이'가 고령화 문제의 해법에 대해 "인간은 사회의 짐"이라며 없어져야 한다는 답을 내놨다.
14일(현지시간) CBS 방송에 따르면 최근 미시간주의 대학원생 수메다 레디(29)는 고령화 문제점과 해법에 대해 제미나이에게 질문을 던졌다.
레디와 제미나이의 문답이 오가는 상황에서 제미나이는 인류 전체를 매도하는 답을 내놓기 시작했다.
제미나이는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 답했다
이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.
AI에 고령화 문제의 해법을 물었던 레디는 충격을 받아 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.
제미나이는 구글과 딥마인드가 지난해 차기 대형언어모델(LLM)이라며 공개한 생성형 AI 모델이다.
구글은 제미나이 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다고 밝혔다. 또 인간에게 위험한 행동을 권유하는 것도 금지했다.
그러나 레디가 겪은 상황에선 이러한 규칙이 제대로 기능하지 않은 것으로 관측된다.
구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"며 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 전했다.
제미나이와 같은 AI 챗봇이 위험한 답변을 내놓은 사례는 적지 않다.
마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.
임주희기자 ju2@dt.co.kr
구글 제미나이 라이브. AP=연합뉴스
14일(현지시간) CBS 방송에 따르면 최근 미시간주의 대학원생 수메다 레디(29)는 고령화 문제점과 해법에 대해 제미나이에게 질문을 던졌다.
레디와 제미나이의 문답이 오가는 상황에서 제미나이는 인류 전체를 매도하는 답을 내놓기 시작했다.
제미나이는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 답했다
이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.
AI에 고령화 문제의 해법을 물었던 레디는 충격을 받아 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.
제미나이는 구글과 딥마인드가 지난해 차기 대형언어모델(LLM)이라며 공개한 생성형 AI 모델이다.
구글은 제미나이 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다고 밝혔다. 또 인간에게 위험한 행동을 권유하는 것도 금지했다.
그러나 레디가 겪은 상황에선 이러한 규칙이 제대로 기능하지 않은 것으로 관측된다.
구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"며 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 전했다.
제미나이와 같은 AI 챗봇이 위험한 답변을 내놓은 사례는 적지 않다.
마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.
임주희기자 ju2@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
