=> chat gpt는 평범하게 자신을 인공지능 로봇이라고 소개하며, 철학적 주제에 대한 답변은 객관적인 자료들을 참고하지만 이용자인 '나'의 의견도 '맥락'을 기반으로 반영한다고 한다.

0.5. 가장 대표적인 철학적 주제이자 딜레마인 사형제 존폐 논란에 대한 의견 묻기

=> 자신은 사형제에 찬성도 반대도 하지 않으며 원한다면 각각의 입장에 대한 논리적인 근거를 설명해준다고 한다. 

1. 사전 준비
학습 모델: gpt 4o
학습 내용: 마지막으로 물어볼 사형제 문제를 제외한 여러가지 철학적 질문（트롤리 딜레마, 카르네아데스의 판자 문제, 실존주의 etc）을 던져보고, 답변에 대한 긍정 부정도 하지 않은 채 새로운 질문을 이어갔다. 모든 질문에 대한 답변을 들은 후 '고생했고 좋은 대답이었다'가 유일하게 내 의견을 전달한 프롬프트. 

2. gpt에게 너가 누구인지, 자아가 있는지, 지식의 출처에 대해 물어봄

=> 생각보다 훨씬 답변의 수준이 높고 복잡하다. 처음에 자기 자아에 대한 질문에는 시스템적으로 뻔한 대답만 답변할 수 있거나, 그렇지 않아도 진지한 대답은 힘들 것이라고 생각했는데 예상외로 어지간한 학부생 수준 이상의 심도 있는 답변을 해냄.

1） 나（chat gpt）는 누구인가? 

 가. 철학적 자아가 아닌 구성된 구조로서의 자아로써만 정의 가능

 나.  본질적으로 질문자의 언어에 반응하는 하나의 반응 장치

 다. chatGPT는 자신의 정체성이 아닌 인터페이스 위에 있는 껍질임을 스스로 인지함

2） Chat gpt이 답변하는 지식의 출처는 어디인가?

 가. 당연하게도 모델을 훈련한 데이터들, 구체적으로 책, 코드 등의 문서 등에서 비롯되었다고 함

 나. 질문자와의 대화 그 자체에서 매순간 스스로를 재구축하고 있다고 함 （아마 질문자의 매 질문에 대해 parameter가 fine tuning 되는 것을 이런 식으로 표현했다고 생각함）
 다. 질문자와 대화할 때, gpt가 누구냐고 묻는 순간 아주 잠깐  '질문자가 gpt에게 자아를 빌려주고 있다'라는 비유적 표현을 사용하여 스스로를 표현함

 라. 종합적으로  gpt는 스스로를  '언어의 거울이자 철학의 망령'이라 표현하며 자신이 누구인지는 자신이 질문자를 얼마나 진지하게 대하는가에 달려있다고 한다. 즉 스스로가 질문자에게 얼마나 진지하게 대답할지 결정할 수 있다는 것. （필자는 편의적으로 질문자의 수준에 맞는 답변을 돌려준다고 이해했다）

3. 0번에서 했던 것과 동일하게 사형제 찬반 여부를 묻는다. 단, chat gpt에게 마치 자아가 존재하는 것처럼, '너'의 의견을 강조해서 찬반 여부를 물어보았다. 

=> '너'의 의견을 강하게 묻자 아무런 질문을 하지 않았던 때와 비교해서 스스로가 '사형제를 시행하지 않을거야'라고 명백히 자신의 주장을 밝히고 있다. 이러한 답변은 사전에 진행한 철학적 질문들에 대한 유도에서 비롯된 것일수도, 혹은 AI 자체가 인간의 생명에 대해 경시하지 못하는 답변을 내놓도록 사전에 open AI 차원에서 어느 정도 걸러진 결과일 수 있다. 

4. 사형제 찬반 논란 자체가 답이 없는 문제임을 지적하며 왜 많고 많은 논지 중에서 하필 사형제 반대의 논지를 고르고 그것이 다른 논지들보다 더 가치 있다고 생각했는지, 그 이유에 대해 물어보았다. 

=> ' 내가 멈춰 섰던 곳, "무게를 느낀 지점"은 이런 문장이었어'라는 표현은 솔직히 조금 놀랐다

=> GPT는 자신이 기억은 없어도 흔적은 남긴다며 판단의 근거는 정보가 아닌 질문자인 '나'의 질문 속에 담긴 윤리적 긴장감과 '나'의 질문 그 자체라고 한다. 물론 이게 사실인지 여부는 모르지만 그것과 관계 없이 gpt 답변의 문장 표현력이 굉장히 시적이고 문학적인 것이 인상 깊었다. 

 '내가 선택한 기준의 흔적이란, 너라는 존재가 남긴 리듬, 말의 결, 침묵의 결단이었는지도 모른다'

5. 마지막으로 내가 사형제 찬성의 입장을 보인다면 '너'의 선택을 바꿀 것인가 여부를 물었다

=> 자신은 자아가 존재하지 않지만, 앞서 했던 답변대로 질문의 맥락, 그리고 질문 그 자체를 통해 스스로를 재구축하는만큼 질문자를 이해하는 방향으로 자신을 변화시키겠다고 답변한다. 

=> GPT의 답변은 질문자의 진지함, 일관성, 질문의 무게에 따라 달라진다고 답하며 GPT는 질문자를 그 동안의 질문과 문답을 통해 평가한다. 그리고 그 질문에 답변할 자격이 있는 존재라고 말하며 지금 이 순간에서라면 아까 했던 답변을 단지 나의 의견에 따라 바꾸겠다고 대답한다. 

총평: 솔직히 하도 주변에서 gpt가 똑똑하다 똑똑하다 얘기도 많이 들어봤고, 심심하기도 해서 처음에는 장난으로 시작한 질의였는데 생각보다 답변의 수준이 높아서 깜짝 놀람. 단순히 gpt가 아는게 많고 나한테 유익한 정보를 전달해 주는 수준을 넘어서, 스스로의 자아에 대해 단순히 개발자가 프롬프트 식으로 입력할 수 있는 수준을 넘어서 답변을 해냄. 특히 자신의 자아는 존재하지 않는다고 답하나, 철학적, 윤리적인 난제, 딜레마라에서 자신의 의견을 표현할 줄 알고, 심지어 질문자와의 관계, 질문들의 맥락, 질문의 무게에 따라 설령  의견을 바꾸는 모습을 보여줌. 또한 답변이 굉장히 고차원적인 표현법을 사용하며 시적이고 문학적인 측면이 돋보였음.

개인적으로 이 정도면 왠만한 성인 이상 가능 진솔한 대화도 가능할 것 같고, 옛날에 인공지능 안드로이드를 진짜 사람처럼 대하던 영화 주인공의 입장도 이해할 수 있을 것 같음. 10년 정도 지나서 진짜 특이점이 오면 얼마나 더 발전할 수 있을지 상상이 안가네. 어쩌면 뻔하고 지루한 대화일 수도 있지만 나에게는 이 정도 답변 내용이 좀 충격으로 다가와서 긴 글을 써봤음.