KT클라우드에 설치된 리벨리온 ATOM NPU가 최근 개발자를 위한 NPU코딩 사용법을 공개해 눈길을 끕니다. 리벨리온 포탈에 가면 RBLN SDK, 모델 ZOO등을 다운로드 받을수있게합니다. nVidia GPU는 딥러닝 학습과 연구에 필수적이지만, A100,...

동남 정보보호 클러스터 광역협의회 UCA아카데미 위촉 안녕하세요? UCA수퍼컴퓨팅아카데미 이태희 대표가 동남 정보보호 클러스터 광역협의회 울산 대표 위원중 한 명으로 위촉이 되었습니다. 2024년 3월 14일에 출범한 동남정보보호클러스터 는 부산-울산-경남을 아...

삼바-1 터보 ​ Sambanova.ai는 groq 과 국내 스타트업 하이퍼엑셀등과 함께 메타 라마3모델이 나오자마자 라마3를 자사의 TPU/LPU추론칩으로 서빙해주는 몇 안되는 업체이다. ​ 삼바노바는 삼바-1 터보는 인공지능 분석의 최신 대규모 언어 모델...

한국인공지능데이터과학협회 6월1일 줌 온라인 세미나 발표 안녕하세요? 사단법인 한국인공지능데이터과학협회 (구 서울데이터연구회) 토요세미나 에서 그록 LPU칩 기반 라마-3 모델 코딩, 우분투 리눅스 기반 ollama 서비스 설치 및 운영기법을 발표하게 되...

메타의 라마 1 모델은 학습 가중치가 노출된 후, 해커들이 CPP버전, 라즈베리 파이같은 소형 디바이스에도 동작하도록 개조하거나, 공개된 데이터셋들을 사용해 라마 모델 구성을 그대로 재현해보는 레드파자마같은 프로젝트가 연이어 나왔다. 라마의 아류인 알파카나 비쿠나등 ...

업스테이지 solar 모델이 무료 8월 31일까지 쓸 수있는 무료크레딧 30달러 제공중이다. 리딤쿠폰은 THANKYOU_2024를 입력하면 바로 발급 된다. 각종 솔라 LLM 을 이용하는 API 코딩을 연습해볼수있다. 맨처음 가입하는 분은 WELCOME_202...

새로 나온 OpenAI GPT-4o모델로 턴 방식의 주거니 받거니식의 대화를 하게했다가 이번에는 텔레그램으로 옮겨타보았다. 텔레그램에서는 봇파더를 통해서 새로운 응답봇을 만들어야한다. 그러면 봇 토큰을 얻을 수 있고, 이걸 통해 파이썬으로 통신이나 제어가 가능하다....

파이썬 소스코드는 ulsancoding.com 블로그 하단에 다운로드링크가 있습니다. gpt-4o모델이 출시되서 밤을 못이루는 분들이 많았다. 분석이나 정리는 다른 분들이 잘하니 그걸 보도록 하자. 아이패드라던가 아이폰 앱에는 GPT-4o가 이미 적용이 된 분들...

BeeBox 한글세팅 터미널에서 shutdown 을 입력했는데 shudozn 처럼 키보드 입력이 이상하게 들어가는 경우 벨기에 키보드를 지우고 한글키보드로 세팅해주면 된다. preference keyboard layouts 탭에서 republic ...

메타 AI는 아직 한국이 정식으로 국가 지원이 안되서 그런지 한국어 문장을 생성하다말고 한국어를 아직 잘 이해하지못한다며, 만들다만 한국어 답변을 되돌려서 철회하는 경우가 많다. 영어로 테스트하려면 TouchVPN을 이용해 미국지역 IP로 들어가야한다. (...

 소스코드가 울산코딩닷컴 게시물 블로그하단에서 다운로드가능합니다. LPU 추론칩으로 유명한 그록 groq이 라마3 llama3 70B를 서비스한다. 테슬라 일런 머스크의 AI 모델인 그록 grok과는 단어가 다르다. 상표권은 일단 groq이 갖고있다. 머스크측...

라마 3가 나오자마자 난리다. 오픈소스치고는 70B 성능이 너무 좋다는 의견이다. 주말 동안 이걸로 pre-trained 시킨 라마3 모델에 개발자 본인이 가진 한국어 데이터만 먹여서 만든 beomi님의 모델이 나왔고 , 이건 파인튜닝은 따로 안된거다. 본인의 한국...

메타의 라마3 llama 7B(혹은 8B 인스트럭션)및 70B 모델이 출시되었다. meta.ai는 아직 나라별로는 출시국이 아니라서 접속이 되지않는다. TouchVPN 확장을 써서 미국, 영국 IP로 로 들어가려고 해도 안되는 건데, SNS 로그인 아이디인 페...

2024년 총선거가 끝난지 얼마되지않았다. AWS 클라우드의 선거데이터를 수신해서 MS-SQL서버로 저장하도록 만든 총선거 DB 수신 SW를 통해서 살펴보자. 닷넷 베이스의 C언어를 기초로 개발되었다. AWS 클라우드 데이터베이스를 끌어다 보는 미리보기를 하는...

검색증강생성 RAG 기술이 파운데이션 모델의 환각 듬뿍 담긴 답변을 해결하고, 토큰도 절약하고, 정확한 답변만을 골라서 해줄 것으로 기대하고있다. 물론 벡터임베딩의 폐해로 근거리가 가까운 키워드를 선택해서 엉뚱한 답변을 하는게 당연하다고 생각되지만, 파운데이션 모델...

 실제 엔터프라이즈 기업용으로 RAG 검색증강 기능이 추가되어 탁월한 성능을 발휘하도록 구축된 확장 가능한 최첨단 대규모 언어 모델(LLM)인 Command R+의 출시를 발표했습니다. RAG 검색증강이라는 용어 자체가 캐나다 인공지능(AI) 기업 코히어(Coh...

월스트리트저널에 따르면 구글이 크롬 브라우저의 시크릿 모드에서 사용자 몰래 수집한 데이터들을 전부 삭제할 예정이라고 합니다. 사용자만 수 백만명이니 지워야 할 데이터는 수 억건은 되겠네요. 2020년에 3명의 구글 크롬 사용자가 각종 정황 증거를 수집해서 제기된 ...

2024 국회의원 총선거 시즌이 돌아왔다. 재미난 선거개발 관련 이야기를 먼저 해볼까 한다. 일본은 선거를 치를때 투표 용지의 후보 이름에 도장이나 마킹을 찍지않고 자필로 후보 이름을 손으로 적는방식이다. 이름이 한자라서 사실 읽어들여 판독하는 OCR기술의 난이도가...

파이썬 코드가 ulsancoding.com 블로그 하단에 제공됩니다. 오픈라우터AI에서 (Free)가 뒤에 붙은 모델은 일단 무한 토큰 방식이라서 토큰가격이 0달러로 과금이 전혀 되지않는다. 각종 테스트 코드를 이것저것 맘대로 던져보기 좋다. 그동안 구글 gemm...

구글 Gemma는 구글에서 제미나이 발표 후, 파인튜닝 (미세조정)을 할 수 있게 공개한 오픈소스 모델이다. gemma 모델이 나온 뒤에야 제미나이 1.0 프로모델에 튜닝 모델이 추가로 들어갔다. 아직 제미나이 울트라가 나오기 전이긴 하지만, 1.5 모델에 대한 튜...