아만다's 일상

AMD가 첫 번째 소형 언어 모델(Small Language Model, SLM)을 출시했습니다. 이름은 AMD-135M으로, 빠른 추론 속도를 자랑하는 "추측 디코딩(Speculative Decoding)" 기술을 탑재했습니다. 이는 대형 언어 모델(Large Language Model, LLM)의 한계를 보완하며, 특정 용도에 최적화된 성능을 제공합니다. 이 모델은 AMD Instinct™ MI250 가속기를 사용하여 6700억 개의 토큰으로 훈련되었습니다. https://community.amd.com/t5/ai/amd-unveils-its-first-small-language-model-amd-135m/ba-p/711368 AMD Unveils Its First Small Language Mode..

새소식/인공지능 2024. 9. 29. 17:38

원문 : https://ia.samaltman.com/ The Intelligence AgeIn the next couple of decades, we will be able to do things that would have seemed like magic to our grandparents.ia.samaltman.com 샘알트만 블로그에 올라온 내용을 요약하자면 다음과 같습니다.  [기술 발전과 인류의 미래]앞으로 몇십 년 안에 우리는 조부모님 세대에게는 마법처럼 보였을 일들을 할 수 있게 될 것입니다.이러한 능력 향상은 유전적 변화가 아닌 사회 인프라와 지식의 축적으로 인한 것입니다.[인공지능과 딥러닝의 역할]딥러닝은 효과적이며, 규모가 커질수록 그 성능이 향상됩니다.인공지능은 어려운 문제 해결과 ..

새소식/인공지능 2024. 9. 26. 23:48

메타가 '라마' 시리즈 중 이미지와 텍스트를 모두 이해하는 첫번째 대형멀티모달모델(LMM)을 출시했다. 오픈 소스 대표 LMM으로, 오픈AI나 앤트로픽 등의 폐쇄형 모델과 경쟁할 것이라고 선언했다.메타는 25일(현지시간) 미국 캘리포니아주 멘로파크 본사에서 연례 개발자 컨퍼런스 '커넥트 2024'를 열고 '라마 3.2'를 공개했다.LMM은 매개변수 11B와 90B의 소형 및 중형 모델 두가지로 출시됐다. 여기에 모바일 및 에지 장치에 적합한 온다비이스 AI용 1B 및 3B 텍스트 전용 모델이 추가됐다.마크 저커버그 메타 CEO는 기조연설에서 "이것은 우리의 첫번째 오픈소스 멀티모달 모델"이라며 "시각적 이해가 필요한 많은 애플리케이션을 가능하게 할 것"이라고 말했다.이전 버전과 마찬가지로 라마 3.2는 ..

새소식/인공지능 2024. 9. 26. 23:23