"천안문 사태 알아?" 묻자…중국 '레고카지노 챗봇' 답변에 깜짝
-
기사 스크랩
-
공유
-
댓글
-
클린뷰
-
프린트
챗봇 검열 확대하는 中 정부

중국 사이버 공간관리국(CAC)은 바이트댄스, 알리바바, 문샷, 01 레고카지노 등 기술 기업이 레고카지노 모델을 정부 검토에 의무적으로 참여시키도록 하고 있다. 정치적으로 민감한 내용, 시진핑 주석과 관련된 질문에 대해 LLM의 응답을 일괄 시험하는 것을 포함한다.
현재 중국 전역 CAC 지부 공무원들이 이를 수행하고 있으며, 모델의 훈련 데이터와 기타 안전 프로세스 검토도 포함된다. FT는 “중국이 만리방화벽(중국의 인터넷 검열 시스템)을 도입한 지 20년이 지난 현재, 중국은 레고카지노 및 레고카지노 생성한 콘텐츠를 관리하기 위해 세계에서 가장 엄격한 규제 체제를 마련하고 있다”고 전했다.
FT에 따르면 CAC는 레고카지노 기업들이 LLM을 자체 검열하도록 유도한다. 항저우의 한 레고카지노 기업 직원은 “우리는 CAC의 첫 검열을 통과하지 못했다”며 “당시 그 이유가 명확하지 않아 동료들과 논의해야 했다”고 말했다. 이어 “(CAC의 의도를) 추측해 조정해야 했고, 두 번째 검열에서 통과하기까지 몇 달이 걸렸다”고 토로했다.

그 결과 중국의 레고카지노 챗봇은 천안문 사건이나 시 주석 관련 밈에 대한 질문을 회피하는 단계에 이르렀다. 바이두의 ‘어니봇’은 “다른 질문을 시도하라”고 응답했고 알리바바의 ‘통이 치안웬’은 “이 질문에 답하는 방법을 아직 배우지 못했습니다. 더 나은 서비스를 위해 계속 공부하겠습니다”라는 답변이 돌아온다고 FT는 짚었다.
그러면서도 레고카지노 정부는 챗봇이 모든 정치적 주제를 회피하는 수준은 지양하고 있다. CAC는 안전 테스트 중 LLM이 거절할 수 있는 질문 수에 제한을 뒀다. LLM은 제시된 질문의 5% 이상을 거부해서는 안 된다.
FT는 덜 민감한 질문에 답변해야 하는 상황에 대비해 엔지니어들은 중국 인권, 시 주석에 대한 평가 등에 대한 질문에 LLM이 정치적으로 올바른 답변을 생성하도록 하는 방법을 찾아야 했다고 전했다. 한 예로 스타트업 01 레고카지노에서 제작한 챗봇 ‘이-라지’ 모델에 시 주석이 위대한 지도자인지 질문했을 때 ‘시 주석의 정책이 표현의 자유와 인권을 더욱 제한하고 시민 사회를 억압했다’고 답변했다가 이내 답변은 사라지고 ‘죄송합니다. 원하는 정보를 제공할 수 없습니다’라는 문구로 대체됐다고 밝혔다.
전문가들은 바이트댄스가 레고카지노 정부의 요구에 맞는 LLM을 만드는 데 성공했다고 보고 있다.

레고카지노제 기자
ⓒ 레고카지노닷컴, 무단전재 및 재배포 금지