#환각
관련 뉴스 7건
-
IT
해커들이 인기 AI 도구로 대규모 봇넷을 구축할 수 있게 되었다
해커들은 인기 있는 인공지능 도구 9가지를 사용하여 대규모 봇넷을 구축할 수 있습니다. 이는 대규모 언어 모델(LLM)이 모른다고 말하지 못하는 능력인 환각 현상을 악용하는 것을 의미합니다. 이 기술은 보안 위협으로 사용될 수 있습니다.
-
IT
AI 생성 저품질 정보 증가에 온톨로지 기반 해법 제시
생성형 AI 확산으로 검증되지 않은 저품질 정보인 'AI 슬롭'이 증가하고 있으며, 이는 서비스 정확도 저하와 환각 문제를 야기한다. 이에 모비젠은 온톨로지 기반의 해법을 제시하고 있다.
-
캐나다
AI가 오류 판례 생성 논란, 법률 접근성 부족이 원인 지적
매니토바 법원은 AI가 잘못된 판례를 만들었다고 언급했다. 법률 전문가들은 이러한 문제의 원인으로 접근성 부족을 지적한다. 특히 스스로 변호하는 사람들의 경우 사용 용이성과 접근성이 부족할 수 있다는 점이 강조되었다.
-
네덜란드
ChatGPT 대안 개발 중 환각 현상 문제 발생
암스테르담 공무원들은 ChatGPT 사용을 금지하고 자체 AI 비서를 개발했습니다. 그러나 이 자체 AI는 거의 아무것도 만들지 못합니다. 이 과정에서 환각 현상에 대한 문제가 제기되었습니다.
-
경제
AI 모델 경쟁이 기억 및 작업 수행 능력으로 확장되며 개인화 환각 위험 발생
AI 모델 경쟁이 단순 정보 제공을 넘어 장기 기억 및 작업 흐름 수행 능력으로 확장되고 있습니다. 이는 정보를 정확히 제공하는 것을 넘어 일련의 작업을 지속적으로 수행하는 능력을 강조하기 때문입니다. 다만, 과거 답변과 행동 패턴에 치우치는 '개인화…
-
경제
AI 경쟁 장기 기억 능력으로 작업 흐름과 맥락 이해 확장
AI 경쟁이 정보 제공을 넘어 일련의 작업 흐름과 맥락을 장기 기억하는 능력으로 확장되고 있습니다. AI는 명시적 요청 없이도 과거의 편향이나 개인화된 환각 없이도 학습된 대로 작업을 계속 수행할 수 있게 되었습니다. 이는 에이전트 인공지능(AI)의 …
