“모델이 '모른다'고 솔직하게 말하게 만드는 게 제 일의 절반이에요.”
AI 상담에서 가장 위험한 건 자신 있게 틀리는 답변이라고 생각합니다. 그래서 저는 모델이 확신이 없을 때 근거를 붙여 솔직하게 물러서도록 만드는 데 시간을 씁니다. 새 프롬프트를 배포하기 전에는 실제 상담 기록을 팀과 함께 읽으면서, 우리 답변이 사용자에게 어떻게 들릴지 소리 내어 확인합니다. 완벽한 한 방보다, 매주 조금씩 덜 틀리는 쪽을 택하는 팀이에요.
“모델이 '모른다'고 솔직하게 말하게 만드는 게 제 일의 절반이에요.”
AI 상담에서 가장 위험한 건 자신 있게 틀리는 답변이라고 생각합니다. 그래서 저는 모델이 확신이 없을 때 근거를 붙여 솔직하게 물러서도록 만드는 데 시간을 씁니다. 새 프롬프트를 배포하기 전에는 실제 상담 기록을 팀과 함께 읽으면서, 우리 답변이 사용자에게 어떻게 들릴지 소리 내어 확인합니다. 완벽한 한 방보다, 매주 조금씩 덜 틀리는 쪽을 택하는 팀이에요.