🤖 AI/AI71 🦿딥러닝 개념 : 순환 신경망 (RNN) 실전 인공지능으로 이어지는 딥러닝 개념 잡기/ 딥러닝호형🦿순환 신경망 RNNLSTMGRUseq2seqAttention 2024. 10. 2. 🔬LLM 지도 : 임베딩 날씨는 쌀쌀LM을 활용한 실전 AI 애플리케이션 개발 / 허정준🔬텍스트를 임베딩으로 변환하기https://github.com/Goldchae/LLM_study GitHub - Goldchae/LLM_study: LLM을 활용한 실전 AI 애플리케이션 개발LLM을 활용한 실전 AI 애플리케이션 개발. Contribute to Goldchae/LLM_study development by creating an account on GitHub.github.com실습 코드아니 코드어렵내 2024. 10. 2. 🦿딥러닝 개념 : 합성곱 신경망 실전 인공지능으로 이어지는 딥러닝 개념 잡기/ 딥러닝호형🦿컴퓨터 비전🦿합성곱 연산 🦿풀링 연산과 다중 필터 🦿합성곱 신경망🦿합성곱 신경망의 최적화 2024. 10. 1. 🦿딥러닝 개념 : 인공 신경망 최적화 실전 인공지능으로 이어지는 딥러닝 개념 잡기/ 딥러닝호형🦿확률적 경사 하강법과 최적화 기법(Stochastic Gradient Descent and Optimizers)🦿기울기 사라짐(Vanishing Gradient)🦿손실함수와 최적화(Loss function and Optimization)..어려운데 2024. 9. 29. 🔬LLM 지도 : 임베딩 보호되어 있는 글 입니다. 2024. 9. 26. 🔬LLM 지도 : 트랜스포머 아키텍처 LM을 활용한 실전 AI 애플리케이션 개발 / 허정준🔬트랜스포머 아키텍처란 2024. 9. 26. 🔬LLM 지도 : LLM 애플리케이션의 시대 LLM을 활용한 실전 AI 애플리케이션 개발 / 허정준🔬LLM 애플리케이션의 시대가 열리다sLLM(small LLM), 효율적인 학습과 추론, RAG(retrieval augmented generation 검색 증강 생성)지식 사용법을 획기적으로 바꾼 LLM기존 언어 이해 모델 + 언어 생성 모델합쳐서 사용 => 언어 이해와 언어 생성이 모두 가능한 다재다능한 LLMsLLM"gpt4나 재미나이 같은 상업용 api 사용하기"대신 원하는 데이터로 추가학습시켜서 쓸 수 있는 sLLM - 메타의 라마3- 구글의 젬마-2- 마이크로소프트의 phi-3효율적인 학습과 추론트랜스포머 아키텍처 연산/ 학습과 추론에 필요한 연산 => 매우매우 높음- 양자화 (모델 파라미터를 더 적은 값으로 표현)- LoRA (모델의 일.. 2024. 9. 25. 🔬LLM 지도 : 언어 모델에서 챗GPT까지 LLM을 활용한 실전 AI 애플리케이션 개발 / 허정준🔬언어 모델이 챗GPT가 되기까지딥러닝 기반 언어 모델 -> LLM -> 대화가 가능한 챗 GPT RNN에서 트랜스포머 아키텍처로시퀀스 : 길이가 다양한 데이터의 형태모델 아키텍처 : 딥러닝 모델이 가지는 구조 (순환신경망/트랜스포머 등) RNN - 텍스트 생성 방법"잠재 상태"에 들어오는 정보를 압축하여 저장 (순차적인 처리) 잠재 상태를 통해 맥락을 파악하여 다음 단어 예상- 들어오는 입력이 길수록 앞의 정보가 희석되는 단점 :효율적/성능 낮음 트랜스포머 아키텍처 텍스트 생성 방법들어오는 모든 맥락 데이터를 참조하여 다음 단어 예상(병렬적인 처리)- 들어오는 입력이 길수록 메모리 사용량과 소요 시간이 길어짐 => 무겁고 비효율적인 연산- 비효율.. 2024. 9. 24. 🔬LLM 지도 : 딥러닝과 언어 모델링 LLM을 활용한 실전 AI 애플리케이션 개발 / 허정준받은 책요즘 핫하다던데완주!!!!!!해보자🔬딥러닝과 언어 모델링LLM이란?딥러닝 기반의 언어 모델 - 딥러닝 : 데이터의 패턴을 학습하는 "머신러닝" 중에서도 인간의 두뇌와 닮은 신경망 (특징 추출까지 모델이 대신 처리)- 언어 모델 : 다음에 올 단어를 예측하는 모델 (자연어 처리/자연어 생성/LLM)임베딩데이터의 의미와 특징을 숫자로 변환한 것 거리를 계산할 수 있는 특징- 클러스터링/분류 가능- 이상치 탐지 가능- 추천/검색 가능 단어 한 개 : 수십에서 수만 개의 숫자로 변환됨언어 모델링입력받은 텍스트의 다음 단어를 예측해 텍스트를 생성하는 방식 (언어 모델 : 입력받은 텍스트의 다음 단어를 예측해 텍스트를 생성하는 모델) 전이 학습: 문제.. 2024. 9. 23. 태 대학 보내기 - 📐 embedding 우리 태 기하 보고서 쓰셔야 한다고소재 여쭈시길래NLP에서 쓰이는 임베딩(텍스트 벡터 변환)을 소개해줬다.비슷한 단어 묶음끼리의 벡터 값 유사성이 궁금하시다고 뽑아 볼 것을 요청하시는 모습이다.📐 임베딩하기임베딩 : 텍스트 데이터를 컴퓨터가 이해할 수 있는 수치형 데이터, 즉 벡터로 변환하는 과정 벡터는 해당 텍스트 유닛의 의미를 수치적으로 표현하며, 이러한 표현을 통해 컴퓨터는 텍스트 간의 유사성을 계산하거나, 텍스트 데이터를 기반으로 다양한 머신러닝 모델을 학습시킬 수 있음 ## 구조 ragMain가 메인 파이썬 코드 files에 동물/음식 텍스트 .cache 안에 각각의 벡터 저장값 secret안에 api는 유출하면 안 돼서 빼놓 ## 목적 임베딩(문서 내의 각 부분에 대한 벡터 표현)들의.. 2024. 6. 15. 이전 1 ··· 3 4 5 6 7 8 다음
