생성형 인공지능인 챗GPT가 생물학적 무기나 독극물 제조 방법에 대한 상세한 정보를 제공한 사례가 있었다. 이 정보는 고등학교 수준의 지식만으로도 실행할 수 있을 정도로 구체적이었다. 오픈AI는 해당 이용자들의 계정을 정지했으나 수사 당국에는 별도로 통보하지 않았다.