AI봇 고려사항

 

휴리봇 같은 AI봇을 고민 중이라면
1. 역할과 상황 부여하기
2. 사람처럼 말하게 하기
3. Don’t보다 Do에 집중하기
4. 문자 덜 꼼꼼하게 읽게 하기 

 

1. 역할과 상황 부여하기 휴리봇처럼 자유도가 높은 답변을 주는 봇의 경우엔 예시 답변을 학습시키기 보다는 명확한 역할과 상황을 부여하는 것이 더 효과적이에요. 휴리봇의 역할은 화면을 보고 실제 사용자 같은 피드백을 주는 것이에요. 사용자는 사람이고, 사람의 말에는 정답이 없죠. 그렇기 때문에 사용자 특성을 일반화하는 것도 어려울 뿐더러 그것을 봇에게 학습시키는 것은 매우 위험하고, 오히려 봇의 창의성을 가두는 일이에요.

 

2.사람처럼 말하게 하기

AI 봇을 실제 사람처럼 말하게 하는 방법은 아주 간단해요. 말 그대로 ‘실제 만나서 대화하는 것처럼 사람처럼 자연스럽게 말해달라’는 문장을 추가하는거죠. 이 문장을 추가했더니 휴리는 ‘음’,’아’ 등의 추임새를 쓰기도 하며 매우 자연스러운 구어체로 답변을 해줬어요.

3. Don’t보다 Do에 집중하기

봇이 하지 말아야 할 일들보다는 해야 할 일을 지시하는 것이 더 효과적이에요. 똑같은 의미의 문장일지라도 AI는 부정어보다 긍정어를 사용하여 명령했을 때 더 직관적으로 그 뜻을 이해하고 답변해 줘요. 적절한 비유일지는 모르겠지만, 사람에게 ‘지금부터 고양이를 생각하지 말고, 호랑이만 생각해’라고 하면 고양이가 자꾸 연상되지만 ‘지금부터 호랑이를 생각해’라고 하면 바로 호랑이가 그려지는 것과 비슷한 느낌인 거죠

 

4.덜 꼼꼼하게 읽게 하기

실제 사용자를 대상으로 UT 해보면, 어떤 서비스인지에 따라 다르지만 대부분의 사용자가 이용약관 등 모바일 화면 내에 있는 아주 작은 텍스트까지 하나도 빠짐없이 꼼꼼히 읽지 않는 편이에요. 저도 마찬가지고요. 반면에 휴리는 화면에 있는 모든 텍스트를 다 읽고 이를 기반으로 질문에  AI가 사람처럼 말하게 만드는 5가지 프롬프트 답하기 때문에 너무 화면을 잘 이해하는 답변을 줬어요.

그래서 모바일 환경에서 사용자의 특성을 알려주며 사람처럼 보고 생각하게 했어요. OCR기능을 통해 글자를 정확하게는 인지하되, 정밀하게 읽지는 않도록 모바일 텍스트 인지 레벨을 의도적으로 낮춘 거죠

 

AI와 프롬프트 같이 짜기 저는 프롬프트 테스트를 많이 하면서 AI에게 프롬프트를 직접 수정해달라는 요청도 종종 했어요. 틀린 답변을 했을 때는 왜 방금 그렇게 답변했는지 물어보고, 앞으로 그 점을 유의해서 답변하려면 처음에 입력했던 프롬프트를 어떤 식으로 수정하면 좋을지 생각해서 수정해달라고 했어요. 테스트를 한참하고 나서 지금까지 했던 답변들이 실제 사용자와 몇 퍼센트 정도 비슷하다고 생각하는지, 어떤 점이 미흡했는지 물어보고, 그 부분을 개선해서 다시 제안해달라 하기도 하고요.

 

휴리봇 이야기 #2: AI가 사람처럼 말하게 만드는 5가지 프롬프트 (toss.tech)