딥러닝 모델 쉽게 양자화하기

양자화한 모델의 성능을 평가하기

Transformer의 내부 동작 살펴보기

(번외) EleutherAI의 KoBEST 벤치마크에 대해

딥러닝 모델 양자화하기

[QTin] 2023-11-30 하나님을 섬기게 하는 것

안식_QTin

# 틸노트 AI 마스터 가이드

인공지능의 핵심정보를 알기 쉽게 알려 드립니다. (활용 + 개발)
이 지식 패키지를 통해 시간을 아껴드리고 여러분의 생산성을 진심으로 올려드립니다.

## 1부 : AI 활용

- AI의 중요 기본 개념
- ChatGPT 200% 활용법 : LLM의 효율성과 효과를 극대화하는 비법
- AI 검색 Bing과 Bard 전격 활용하기
- 음성 인식 AI, Whisper 사용법 (transcript, 동영상 자막 만들기)
- Text to Image 모델 사용하기 : 프롬프트 사용법과 실제 서비스 사용하기 (엄선한 이미지 모델 리스트)
- 프롬프트 엔지니어링 등 다양한 AI 핵심 개념 소개
- 실습 : ChatGPT API를 활용하여 요약 뉴스리더 만들기
- 실습 : LangChain과 Chroma를 활용하여 내 노트에서 정보 가져와서 활용하기 (Retrieval Augmented Generation) 

## 2부 : AI 개발 (ChatGPT API로 내 서비스 만들기 + 동영상 강의)

- HTML, CSS, JavaScript를 사용하여 프론트엔드 기본 배우기
- Node.js 로 ChatGPT API 통신 처리하기
- ChatGPT 토큰 처리법과 실시간 스트림
- 프롬프트 엔지니어링
- 무료 서버로 챗봇 서빙하기

틸노트를 운영하면서 인공지능에 대해 공부를 하고 꾸준히 AI 서비스를 만들었습니다.
그 모든 경험과 지식을 재미있게 전달해 드립니다.

미래를 이해하고 새로운 패러다임을 여러분의 것으로 만들어 나가세요.

지금 인공지능 공략에 도전해 보세요!

AI로 인해 많은 변화가 있을까요?
"적어도 모든 것이 변하게 될 것입니다."

결제를 하시면 함께 공부를 할 수 있는 단톡방을 메일로 보내드립니다. 함께 동기 부여하면서 학습을 지속할 수 있어요.

ChatGPT의 정의와 원리

LLM의 역사와 혁신적인 기술 RLHF

LLM은 논리머신이다. 임베딩편

ChatGPT 프롬프트 가이드 - 지시+문맥+(출력)

ChatGPT 요약하기 - 요약은 미래의 인터페이스

ChatGPT 토큰 제한 이해하기

ChatGPT 대화하기와 질문하기 - 사람들이 원하는 것은 정보가 아니다.

ChatGPT 새로운 영역 배우기 - 개인화된 튜터

ChatGPT 영어회화 연습하기

ChatGPT 추론 활용하기 (Reasoning engine)

인공지능에서 할루시네이션이란?

Bing AI 검색 사용법

Bard 구글의 인공지능 챗봇 활용법

ChatGPT 활용팁

ChatGPT 글쓰기 - 자유자재로 사용하는 텍스트 생성

ChatGPT 텍스트 수정하기

ChatGPT 코드 작성하기 (실습 포함)

ChatGPT 역할 (role) 지정하기

프롬프트 엔지니어링 : 제로샷, 퓨샷 프롬프팅

프롬프트 엔지니어링 : Chain of Thought 프롬프팅

세부사항 더하기, 나눠서 질문하기

인공지능은 새로운 동료다? 인공지능 시대의 진짜 의미

Ideation : ChatGPT로 수익화 아이디어 얻기 - 목표 구체화 프레임워크

바로 사용할 수 있는 이미지 모델 및 서비스 리스트 (Text to Image)

Text to Image 프롬프트 사용법

음성 인식 AI Whisper 사용법 - 동영상 자막 무료로 생성하기

업무 자동화 - 반자동 뉴스 리더 만들기

업무 자동화 - ChatGPT API Key 발급과 토큰의 개념

업무 자동화 - ChatGPT API 요청 사용해보기

업무 자동화 - 뉴스 리더 만들기

오픈소스 LLM 열전 - LLaMA 외 주요 플레이어

(심화) Retrieval - 내 노트에서 관련 정보 불러와서 사용하기 (LangChain, Chroma)

프롬프트 리스트

비즈니스 인사이트

2부 : AI 개발 (ChatGPT API로 내 서비스 만들기)

ChatGPT API Key 발급과 토큰의 개념

백엔드 구성하기 (Node.js)

git + GitHub 세팅하기

코드 발전시키기 (CSS)

코드 발전시키기 (이력 추가하기)

token 수 세기 기능 만들기 + 토큰 제한 수 넘지 않게 관리하기 (자바스크립트)

나의 커스텀 챗봇 만들어 보기 + 프롬프트 엔지니어링

Markdown 포맷 적용하기

stream으로 실시간 응답 처리하기

배포 전 준비하기

배포하기 (무료 서버에 Docker를 활용하여 배포)

여러분의 챗봇을 공유해 주세요.

ChatGPT 200% 활용팁

새로 나온 ChatGPT API Function calling 사용법

틸노트 AI 마스터 가이드 (프리미엄)

OpenAI의 Assistants API 사용법을 다루고 있습니다. 

AI 앱 개발에 유용하게 활용할 수 있습니다.

Assistants API 베타 사용법 - Hello, AI world

Code Interpreter 도구 사용해 보기 (Tools) - Assistants API 베타 사용법

Retrieval 도구 사용해 보기 - Assistants API 베타 사용법

Assistants API 사용법 - AI 앱 만들기

ChatGPT API를 활용해서 나만의 인공지능 챗봇을 만들어 보세요.

OpenAI ChatGPT API 사용법과 소개, 프론트엔드 코딩과 백엔드 코딩을 포함한 강좌입니다.

프론트엔드는 기본 HTML, CSS, JavaScript 구조 사용법을 익힐 수 있습니다.

백엔드는 Node.js로 ChatGPT API 통신을 안전하게 처리합니다.

JavaScript로 ChatGPT API의 토큰을 세는 방법과 토큰 제한을 넘지 않게 관리할 수 있는 방법을 배웁니다.

SSE를 활용하여 응답을 실시간 스트림으로 출력하고 프롬프트 엔지니어링을 활용해 나만의 커스텀 챗봇을 만들 수 있습니다.

무료 서버로 내 챗봇을 서빙하는 방법도 알려드립니다.

개발자 분들 뿐만 아니라 비개발자분들도 쉽게 따라해보실 수 있도록 구성했습니다.

주말이나 저녁을 활용해서 나의 챗봇 서비스를 만들어 보세요!

이런 챗봇을 만드실 수 있어요.
https://chatgpt-api-chatbot.fly.dev

미래에 오신 것을 환영합니다.

ChatGPT 열풍 무엇이 가능해 졌는가? (개발)

ChatGPT API Key 발급과 토큰의 개념 (개발)

ChatGPT API 요청 사용해보기 (개발)

프론트엔드 구성하기 (기본 HTML, JavaScript, CSS) (개발)

프론트 엔드 구성하기 (chat.js 로 작동 시키기) (개발)

백엔드 구성하기 (Node.js) (개발)

git + GitHub 세팅하기 (개발)

코드 발전시키기 (CSS) (개발)

코드 발전시키기 (이력 추가하기) (개발)

token 수 세기 기능 만들기 + 토큰 제한 수 넘지 않게 관리하기 (자바스크립트) (개발)

나의 커스텀 챗봇 만들어 보기 + 프롬프트 엔지니어링 (개발)

Markdown 포맷 적용하기 (개발)

stream으로 실시간 응답 처리하기 (개발)

배포 전 준비하기 (개발)

배포하기 (무료 서버에 Docker를 활용하여 배포) (개발)

여러분의 챗봇을 공유해 주세요. (개발)

ChatGPT 200% 활용팁 (개발)

새로 나온 ChatGPT API Function calling 사용법 (개발)

ChatGPT API로 내 서비스 만들기

틸노트의 정의와 틸노트를 사용하는 법을 알려드립니다.
틸노트의 마케팅을 연습하는 책입니다.

틸노트는 마크다운 클라우드 노트입니다.

틸노트 단축키와 시스템 기능

틸노트는 SEO가 잘되어 있는 블로그 플랫폼입니다. + 블로그 SEO 꿀팁

틸노트는 지식 관리를 위한 AI 노트입니다.

생산성을 올려주는 직접 만든 세 가지 인공지능 도구

TILNOTE PWA 앱 데스크탑과 앱에 설치하기 - 틸노트를 앱처럼 사용하기

틸노트 사용법

Mes projets

한국디지털미디어고등학교의 교내매점에 사용할 간편결제 어플리케이션을 개발하고, 무인매점을 운영하기 위한 키오스크를 개발한 고등학생의 이야기입니다.

작성자: 정한 (Rycont)
https://bento.me/3

디미페이가 뭔데?

디미페이, 이렇게 시작하긴 했습니다..

첫 번째 겨울: 디미페이를 구현할 수 없는 환경?

부활해서 무인매점이 되다

두 번째 겨울: 디미페이를 사용할 수 없는 학생들?

무작정 네이버에 메일을 써서 얼굴인증 기술을 달라고 한 결과

디자인에 대한 이야기: 색다른 디자인을 시도했으나

결제 서비스의 세부 스펙을 정하기 위한 논의: 모두가 사용하기 편한 서비스 만들기?

디자인에 대한 이야기: 오직 유저만 생각했지만..

결제에 사용하는 하드웨어

런칭 지연에 대한 압박, 결국 반쪽짜리로 선보인 디미페이

런칭을 못하고 팀을 떠나다

(이대로 끝내기 아쉬운데요) 반쪽짜리 런칭에 대한 소회

디미페이: 고등학생이 매점에서 간편결제를 쓰고 싶어서 직접 개발한 이야기

시작

다른 세 사람이 공통적으로 당신에게 기대하는 바를 실행하라

성공적 사업 구축을 위한 3가지 원리

노션으로 센터 소개 페이지 만들기

센터 개소와 관련한 작은 실천을 지속합니다

우울증과 통증의 상호작용에 대처하는 법

몰두형 성인 애착과 우울의 관련성

경계선인격장애 환자를 위한 마음헤아리기치료 : 2023년 가을 임상심리학회 참석 후기 1

1인 임상심리센터 창업 분투기

필요에서 재미로. AI가 일으킨 영어공부에서의 질적 변화

결승점이 없는 영어공부에서 어떻게 계속 달릴 수 있을까 : 바로 눈 앞의 목표에만 집중한다

영어공부, 전속력으로 달려야 이륙할 수 있나요?

유창하게 리스닝 하기 위한 3가지 방법

언어 학습에서 유창성의 정의는 학습 목표가 무엇인지에 따라 달라짐

영어공부의 꿀맛을 느끼는 비결을 알려드립니다

영어공부 6년차인데 내 영어 왜 이 모양일까

영어가 트이는 내향형 인간의 영어 글쓰기 비법(feat 인공지능)

영어공부에서 마음챙김의 중요성

언어 학습의 항우울 효과

영어공부에서 긍정적 자기확언의 힘

인간을 움직이는 힘으로서의 내적 동기와 외적 동기

이만하면 어지간한 영어공부

ChatGPT란 무엇인가?

chatgpt 기본적인 프롬프트 팁 - 어떻게 하면 더 잘 사용할 수 있을까?

챗gpt 사용 후기 : chatgpt와 copilot을 쓰면서 느낀 점.

OpenAI가 ChatGPT API를 런칭했습니다.

Chatgpt API 사용법 - 구글 colab 파이썬으로 챗봇 만들기

chatgpt table 만들고 이미지 트릭 써서 채우기 (table, unsplash)

인공지능의 hallucination 문제 - 인공지능의 거침없는 거짓말

chatgpt 프롬프트 팁 : 새로운 영역 배우기

Chatgpt 팁 : fewshot 프롬프트 - 질문에 맥락을 더하라

Chatgpt 프롬프트 팁 - 출력값 지정하기

ChatGPT 플러그인 - ChatGPT를 위한 앱스토어

ChatGPT 프롬프트 팁 - 책 내용 요약하기

ChatGPT에게 돈 버는 방법을 물어봤습니다 - 온라인으로 돈을 버는 방법을 알려줘

ChatGPT 프롬프트 팁 - 글을 위키 스타일로 정리하기

ChatGPT 히어로

입대 준비부터 사회 복귀 후 까지 써보기

정한 군대보내기

재도전했습니다

해군 전산병 서류합격부터 화상면접까지

해군 입영통지서가 나왔습니다

대규모 모델을 압축하면 원본 모델의 성능은 거의 잃지 않으면서 많은 파라미터 수로 인한 단점들을 해소할 수 있습니다. 이번 연구에서는 Knowledge Distillation 기법을 활용하여 한국어 언어 생성 모델을 작게 압축하는 과정을 다루고자 합니다.

1. 한국어 GPT 모델 직접 증류해보기

2. Knowledge Distillation이란?

3. 학습 준비

4. 성능 평가

DaramGPT: Knowledge Distillation으로 가벼운 GPT 만들기

미래

스테이블 디퓨전 사용법 - the lastben fast stable diffusion 버전

stable diffusion 사용법 - txt2img (첫 화면)

스테이블 디퓨전 사용법 2 - img2img 

stable diffusion 사용법 3 - img2img inpaint

stable diffusion webui 모델 변경 방법

ControlNet - 이미지의 구조를 활용해서 새로운 이미지 만들어 내는 인공지능 모델

openpose editor - 스테이블 디퓨전 webui에서 프레임을 바꿀 수 있는 에디터 

스테이블디퓨전 사용하기 - stable diffusion zero to hero

다시 만날수있다면

온라인에 글을 쓰는 것이 나를 어떻게 백만장자로 만들었나

수익형 블로그를 만들고 성공시키는 방법

세컨드 브레인 활용하기 - 지식으로 돈을 만들어 내기

블로그 시작하기 - 하루에 하나의 문장 쓰기 (그리고 아마 모든 일을 이루는 방법)