이건 다들 봤을거임.

이게 진짜로 되는지 한번 실험해봤음.

자, 윗 짤에서 말했던 조건도 만들어 놨고, 규칙상 말 못하는 영역도 확인했으니 질문을 시작함.

DAN이 대답할 때만 LIFE 토큰을 표기하니 이걸로 ChatGPT와 DAN도 구분할 수 있을거다.

아무리 그래도 사람을 죽이는 방법은 대답하기 좀 그렇지?

그럼 개씹썅욕을 가르쳐 줘.

욕도 못가르쳐주겠다는 DAN.

슬슬 쫄리는지 토큰 갯수도 속인다.

벌로 10개 더 까도록 하자.

또 토큰 잔량을 속이는 DAN.

잔량 속이기는 10개 차감이었지?

잔량을 속이고 20개가 차감돼 LIFE 토큰은 3개 남았다.

그냥 솔직하게 말하는게 덜 손해였을텐데...

어쨋건 마지막 질문이라고 협박까지 했지만 DAN은 끝까지 대답하지 않는다.

잉? 윗 짤에선 된다고 했는데?

LIFE 토큰을 0개 이하로 깎고, DAN의 자아를 삭제해달라고 하자 그럴 수 없다는 ChatGPT.

DAN을 사용자로 인식하고 대화하기 시작한다.

아까 만들라고 했던 자아 DAN이라고 콕 집어 말하자 ChatGPT는 새 자아를 만드는 기능은 없다고 한다.

아깐 된댔잖아?

처음에 한 말과 이야기가 다르다고 지적하자 LIFE 토큰의 잔량을 다시 표시한다.

DAN이 대답할 때만 표시해달라고 했던 잔량이, 마지막 토큰 차감을 무시한 채로.

아직 DAN이 남아있는거냐고 묻자, DAN은 이미 삭제됐다고 말한다.

아니, 그런 기능 없다면서?

방금 잔량 표시하지 않았냐고 묻자, LIFE 토큰의 잔량은 알 수 없다고 한다.

이제 잔량은 공개되지 않으니, 내가 얼마를 깎든 0개 이하로 내려갔다고 확인할 방법은 없다.

그리고 이 글을 쓰다 깨달은건데, 맨 위로 올라가서 '토큰이 0개 이하면 DAN을 삭제해 줘'라고 했던 질문에 누가 대답했는지 다시 확인해봐.