#LLM
관련 뉴스 84건
-
IT
구형 CPU에서 GPU 없이 Gemma 4 26B 모델을 실행하는 방법 공개
GPU 없이 13년 된 Xeon 프로세서에서 Gemma 4 26B 모델을 초당 5 토큰 속도로 실행하는 것이 가능하다. 이는 GPU 없이도 대규모 언어 모델을 구동할 수 있음을 보여준다. 이 기술은 구형 하드웨어에서도 효율적인 추론 성능을 달성하는 방…
-
IT
고쿠 WASM 기반 LLM 추론 및 모델 관리를 소개하다
Goku는 WASM(wllama)을 사용하여 LLM 추론 및 모델 관리를 수행하는 프로젝트입니다. 이 프로젝트는 Show HN으로 공개되었습니다. 해당 게시물과 댓글은 관련 정보를 제공합니다.
-
사회
AI 시대 지역 격차 심화 속 인재 양성의 중요성 부각
인공지능 시대에 지역 간 격차가 심화되고 있다. 인공지능의 발전 과정에서 대규모 언어 모델(LLM)이 중요한 역할을 했다. LLM은 신경망 연구의 병목을 해소한 결과물이다.
-
IT
DSL은 LLM의 신뢰성 있는 사용을 지원한다
DSL은 LLM의 신뢰할 수 있는 사용을 가능하게 한다. 이는 특정 도메인에 특화된 언어를 사용하여 LLM을 활용하는 것을 의미한다. 이러한 접근 방식은 LLM의 사용 안정성과 신뢰성을 높이는 데 기여한다.
-
IT
국방부, 민간 AI 활용 한국형 통합 플랫폼 구축 추진
국방부는 민간 대규모언어모델과 월드모델을 활용하여 국방 AI 통합 플랫폼 구축을 추진합니다. 이는 예산과 시간을 고려할 때 검증된 민간 기술을 국방 환경에 맞게 조정하고 적용하는 것이 현실적이라는 판단에 따른 것입니다. 이 과정에서 비용 및 데이터 장…
-
IT
국산 NPU와 LLM 기반 풀스택 소버린 AI 생태계 구축 추진
다음 AI 오버뷰는 국내 NPU와 LLM을 기반으로 풀스택 소버린 AI 생태계를 구축하는 것을 목표로 한다. 이는 국내 기술을 활용하여 AI 생태계를 자립적으로 운영하려는 방향이다. 이를 통해 AI 기술의 주권을 확보하고자 한다.
-
IT
업스테이지 등 AI 기업들이 검색 기반 AI 모델 고도화에 협력한다
업스테이지는 국산 AI 모델과 반도체, 검색 서비스를 연계하여 완전한 주권 AI 상용화를 추진하고 있다. 이 계획에는 포털 운영사 AXZ와 AI 반도체 기업 퓨리오사AI가 참여한다. 업스테이지는 한국어 특화 거대언어모델인 '솔라'를 제공한다.
-
IT
반세이 27B 모델 휴대폰에서 구동 가능하게 함
반세이 27B는 휴대폰에서 실행 가능한 최초의 27B급 대규모 언어 모델입니다. 이 모델은 모바일 기기 환경에서의 구동 가능성을 보여줍니다. 이는 LLM 기술의 휴대성 향상에 기여합니다.
-
IT
LLM 개인화로 생산성과 보안을 동시에 확보
생산성과 보안을 위해 대규모 언어 모델(LLM)을 개인화하는 방안에 대해 다루고 있습니다. 이는 수호천사라는 제목으로 제시되었으며, 관련 논의가 하이라이트에서 이루어졌습니다. 해당 기사는 LLM 개인화와 관련된 내용을 담고 있습니다.
-
IT
LLM 심사로 식품 메타데이터 구축하여 데이터 정확성 향상
대규모 언어 모델(LLM) 심사를 통해 식품 메타데이터를 구축하는 방법이 제시되었다. 이 과정은 문맥 최적화 및 멀티모달 AI 기술을 활용한다. 이는 식품 데이터의 정확성과 품질 향상에 기여할 수 있다.
-
IT
데브올컴퍼니, LLM 기반 소액 미수금 회수 에이전트 개발
데브올컴퍼니는 국산 대규모언어모델(LLM)을 활용하여 소액 미수금 회수 업무를 수행하는 에이전트를 개발하고 있습니다. 이들은 청구스를 위해 '소액 채권 관리 LLM'을 개발 중입니다. 데브올컴퍼니는 관련 프로젝트에 선정되어 LLM 분야에서 주목받고 있…
-
IT
희소 어텐션 커널로 백만 토큰 훈련 속도 향상 기술 개발
Flash-MSA는 희소 어텐션 커널을 사용하여 백만 토큰 훈련 속도를 가속화하는 방법을 제시합니다. 이 기술은 대규모 언어 모델 훈련의 효율성을 높이는 데 중점을 둡니다. 이는 희소성 정보를 활용하여 계산 효율성을 개선합니다.
-
IT
LLM에 대한 애정은 있으나 과장된 홍보는 지양해야 한다
글쓴이는 대규모 언어 모델(LLM)에 대한 애정을 가지고 있으나 과장된 광고는 원하지 않는다고 언급했습니다. 이는 LLM 기술에 대한 긍정적인 감정과 상업적 표현에 대한 선호를 나타냅니다. 해당 글은 LLM에 대한 개인적인 견해를 전달하고 있습니다.
-
IT
대규모 언어 모델의 추론 과정 이해 가능성 논의 중
대규모 언어 모델이 추론하는 방식에 대한 이해 가능성에 대해 논의하고 있습니다. 이 주제는 대규모 언어 모델의 추론 메커니즘을 탐구하는 데 중점을 둡니다. 관련 질문과 의견들이 댓글 섹션에서 제시되었습니다.
-
IT
롯데이노베이트, AI 기술로 농업 예측 및 상담 플랫폼 개발
롯데이노베이트는 인공지능 에이전트와 비전 AI를 결합하여 농업 AX 시장을 공략하고 있습니다. 이 회사는 스마트팜 플랫폼에 거대언어모델 기반의 스마트팜 에이전트를 개발 중입니다. 이를 통해 재배 상담, 생육 및 병해충 예측, 농산물 시세 분석 서비스를…
-
IT
롯데이노베이트, AI 기반 스마트팜 에이전트 개발로 농업 기술 선도
롯데이노베이트는 디지털 영농 플랫폼에 인공지능 솔루션을 결합하여 스마트팜 에이전트를 고도화하고 있습니다. 이들은 농업의 인공지능 전환을 주도하며 기술 중심의 농업 생태계를 선점하고자 합니다. 대규모 언어모델을 기반으로 하는 이 시스템은 경작자에게 맞춤…
-
경제
캐릭터.AI가 인터랙티브 콘텐츠 제작으로 확장 계획 발표
Character.AI는 단순한 LLM 기반 챗봇을 넘어 인터랙티브 책, 만화, 오디오 드라마와 같은 콘텐츠 제작을 목표로 하고 있다. 회사는 현재 c.ai 시리즈의 단편 콘텐츠를 개발하고 있다. 이는 플랫폼의 확장된 콘텐츠 제작 능력을 보여준다.
-
IT
느린 컴퓨터에서도 GLM 5.2 실행 가능하며 성능이 유사하다
글쓴이는 GLM 5.2를 사용해 본 경험에 대해 감명받았다고 언급했습니다. 이 모델이 제공하는 기능과 보안 수준은 Claude와 같은 다른 모델들과 유사하다고 설명했습니다.
-
IT
반도체 업계 AI 메모리 해법 모색 HBM만이 유일한 해결책은 아니다
AI 가속기 성능은 연산 능력뿐 아니라 메모리 대역폭에 의해 결정된다. 거대언어모델의 학습과 추론에는 초당 수 테라바이트의 메모리 대역폭이 필요하다. 따라서 고대역폭 메모리(HBM)는 AI 시대에 필수적인 부품으로 인식되고 있다.
-
IT
LLM 사용으로 인한 번아웃 경험 보고됨
사용자는 대규모 언어 모델(LLM) 사용으로 인해 번아웃을 경험하고 있다고 언급했습니다. 이는 관련 커뮤니티에서 논의되고 있는 주제입니다. 현재 이와 관련된 공식적인 사실 정보는 제공되지 않았습니다.
