Ansim_KeyPad_LLM_SERVER

사이버상 초등생의 언어 폭력 방지 교육을 위한 레포트를 생성한다.

2. 기능

2-1. 목표 및 내용

• 초등학생 : 자신의 언어습관을 객관적으로 인지

  1. 전반적인 언어 습관 / (설명)
  2. 비속어 사용 습관 / (비속어를 사용한 실제 시간, 상황, 발화 내용에 기반한 설명)
  3. 비속어 사용 TOP 3 / (가장 많이 쓴 비속어 3가지에 대한 뜻)
  4. 비속어 대체 문장 추천 / (top 3 단어 및 문장에 대해서 대체할 수 있는 문장 추천)

• 보호자 : 자녀의 언어습관 인지 및 교육방법 제안

  1. 자녀의 전반적인 언어 습관 / (부모가 자녀의 언어습관을 확인할 용도)
  2. 자녀의 비속어 사용 습관 (비속어를 사용한 실제 시간, 상황, 발화 내용에 기반한 설명)
  3. 자녀의 언어 습관 교육 방법과 팁 (가해 예방 교육)

2-2. 주의할점

• 비속어의 오탐지로 자녀의 사생활이 노출되지 않도록 한다. (부모에게 보여지기 때문에)

3. RAG

3-1 RAG 구조

1. 문서 등록: '자녀의 누적된 키패드 입력 내용'을 참고 문서로 등록한다.
2. 유사성 검색: 입력된 쿼리와 등록된 문서 간의 유사성을 검색한다.
3. 프롬프트 엔지니어링: 사이버 폭력의 기준과 대응 방법을 포함한 프롬프트를 설계하여 객관적 사실에 기반한 레포트 생성을 유도한다. 카카오톡의 운영정책과 푸른 코끼리의 사이버 폭력을 참고했다.
4. 정보 기반 생성: 검색된 정보를 바탕으로 인사이트와 레포트를 생성한다.

3-2 Prompting

prompt에 입력된 내용을 참고하여 문서에서 검색되는 비속어가 상대방에게 피해를 줄 의도로 사용된 것인지 판단한다.

1. 카카오톡 운영정책 : 음란, 선정성, 폭력, 비방 등에 대한 정의를 포함한다.

   ex. 폭력 잔혹성 정보 : 사람과 사람의 표현물(만화, 애니메이션 등의 캐릭터)에 대한 육체적 · 정신적 고통 등을 사실적 · 구체적으로 표현하여 다른 이용자에게 잔혹감을 주는 내용은 폭력성 · 잔혹성 정보로 판단합니다.

2. 푸른코끼리 사이버폭력 : 사이버 폭력 피해 & 가해 징후와 대처 방법을 포함한다.

   ex.필요한 경우 화면 캡처, 사진 촬영 등 객관적인 증거를 확보한다.

4. RAG_SERVER 아키텍쳐