본문 바로가기

실패 사례

1. AI에게 모든 것을 다 시키려고 하면 안 됩니다

처음에는 HWPX 파일을 완전히 비워두고 내용을 채울 수 있도록 준비를 했었습니다.

  1. 가이드가 없다 보니 아래 이미지와 같이 수정에 리소스가 너무 많이 들어가는 파일로 완성이 되었습니다. 표도 없고, 이미지도 없었습니다. 그 내용 또한 만족스럽지 못했는데 그 이유는 사용 토큰량이 너무 많기 때문이었습니다.

아래 논문은 대화를 할 때마다 얼마나 토큰을 썼는지에 따라 성능 저하를 확인할 수 있습니다. 너무 많은 토큰을 사용하면 모델이 느려지거나 응답이 부정확해질 수 있습니다.

95ysyjzs8sie1.png

사용량을 줄이기 위한 다양한 시도를 해보았습니다. 예를 들어, '읽기'가 아니라 '쓰기'에 집중하도록 요청하는 방식이죠. [내용] 이런 식으로 쓸 내용을 일관성 있게 특수기호를 사용하여 명시를 해두니 사용 토큰량이 매우 줄어들었습니다.

공고 문서가 md 형식인 경우에도 마찬가지로 매우 토큰이 절약되기 때문에 처음부터 pdf가 아니라 md로 준비해두는 것이 좋습니다. 다만 이러면 사람의 공수가 많이 올라갑니다. 사람의 공수와 토큰 사용량 사이에서 적절한 균형을 찾는 것이 중요합니다.

2. 이미지나 표는 직접 만드는 편이 좋습니다

앞서 hwpx 구조에서 보여드렸던 것처럼 표나 이미지는 AI가 만드는 것보다 직접 만드는 편이 좋습니다. 특히 표의 경우에는 AI가 만들어주는 표는 양식이 자주 깨지기도 하고, 내용도 만족스럽지 못한 경우가 많았습니다. 그래서 표는 미리 만들어두고, 이미지는 직접 붙여넣기 하는 편이 좋습니다.

Claude에게 한글 표는 매우 많은 토큰을 사용해야 하는 작업이면서, 동시에 실수도 많이 합니다. 특히 표 안에 표와 같은 경우 실수가 더 많이 발생합니다. 그래서 표는 미리 만들어두고, 이미지는 직접 붙여넣기 하는 편이 좋습니다.

그래서 이미지, 표 형식은 미리 만들어두거나 인간이 작업을 해서 AI가 채우는 방식으로 진행하시는 것을 권해드립니다.

3. 큰 파일은 쪼개서 작업하세요

20 ~ 30페이지 초안은 금방 나오지만 100페이지가 넘어가는 작업은 시간도 오래 걸리며, 작업의 결과물 또한 마음에 들지 않습니다. 큰 파일의 경우 어떻게 작업을 해야하는지 3번 챕터에서 다루게 됩니다.