RLHF?? 다음은 ‘보조’가 아니라 ‘자동화’다

·
Dev./AI 인공지능
지금의 AI는 ‘사람을 보조하도록’ 설계되어 있다. 아직 ‘사람이 신경 쓰지 않아도 일을 끝내도록’ 설계된 것은 아니다.1. 어려운 수학은 AI 혼자 잘 풀면서, 왜 고객 응대에는 사람이 남을까?AI는 어려운 수학 문제를 혼자 푸는데, 왜 고객 서비스처럼 상대적으로 단순해 보이는 의사결정에는 여전히 사람의 의사결정을 남겨둘까? 대부분의 LLM은 RLHF로 만들어졌는데, 이 RLHF 프로세스 과정에서 HUMAN을 염두에 두고 만들었기 때문이라고 한다. 코딩 에이전트처럼 사람이 계속 옆에서 결과를 확인하고 만족도를 판단하는 작업에서는 AI가 꽤 강하다. 왜냐하면 RLHF로 만들어진 LLM은 코드가 실행되는 것만으로 끝나지 않는다. 사용자의 의도를 따라가고, 대화하면서 방향을 조정하고, 사람이 납득할 만한 결..