전체 글1219 🎮 계산기사 게임 앱 찐출시 - 7 : db 화면 연결하기 이불과의 이별을 견뎌낸다는 것의 의미.(1월 출시를 실패한 )신은 죽었다. - 은체TODO- 여러 기기 화면 호환 기능 되는지 보기- 갤럭시 개발 계정 파기 ($25) ✅- 애플 개발 계정 파기 ($99)- 파이어베이스 리얼타임db 세팅 ✅- 사용자 닉네임 사용자 기기 저장✅- 파이어베이스 초기 연결 ✅- api 명세? 사용 함수? 작성하기 ✅- 초기 정보 서버 전송 - 메인룸 세게회복도/코인/닉네임/직위 서버 연동- 랭킹홈 닉네임/직위/계산검술숙련도 서버 연동- 랭킹전 점수 연동- 랭킹 보여주는 표 서버 연동- 소리 떨어진 거 다시 붙이기 (스테이지홈배경음끼룩사운드 ✅- 이미지 떨어진 거 다시 붙이기 ✅- 스테이지 홈 복원 ✅- 스테이지 1 복원 ✅- 스테이지 2 복원 ✅- 스테이지 3 복원 ✅- 안 .. 2025. 1. 17. 🔬임베딩 모델로 데이터 의미 압축하기 : 문장 임베딩 LLM을 활용한 실전 AI 애플리케이션 개발- 허정준 🪧문장 임베딩 방식텍스트 활용 시 단어보다는 문장을 많이 사용함🫔 문장 사이의 관계를 계산하는 두 가지 방법Bert 모델 - 트랜스포머 인코더 구조 사용=> 입력 문장을 문장 임베딩으로 만드는 데 뛰어난 성능을 보임 1. 바이 인코더 bi-encoder- 문장 두 개를 각각 bert 모델에 입력- 모델의 출력 결과 (문장 임베딩 벡터) 사이의 유사도를 코사인 유사도를 통해 구함 2. 교차 인코더 Cross-encoder- 문장 두 개를 함께 bert 모델에 입력 - 모델이 두 문장 사이의 관계를 출력교차 인코더=> 계산량이 많지만 두 문장의 상호작용을 고려할 수 있어 더 정확한 관계 예측이 가능- 직접적으로 두 텍스트 사이의 관계를 모두 게산하.. 2025. 1. 17. 🔬임베딩 모델로 데이터 의미 압축하기 : 텍스트 임베딩 LLM을 활용한 실전 AI 애플리케이션 개발- 허정준🧭 임베딩 모델로 데이터 의미 압축하기지금까지 텍스트를 숫자로 표현하려던 다양한 시도들이 있었음.. - 원핫 인코딩 : 텍스트를 숫자로 표현하지만 의미를 담지는 못함- 문장 임베딩 : 문장을 벡터로 표현하는 임베딩- 하이브리드 검색 : 키워드 검색 + 의미 검색 ( 관련도 높이기)발전~!~! 텍스트를 의미를 담아 더 압축적인 임베딩 벡터를 만드는 방향으로 발전해 옴 기본적으로 사용할 임베딩 모델 : OpenAI의 text-embedding-ada-002젤유명한듯🗃️ 텍스트 임베딩 이해하기텍스트 임베딩 / 문장 임베딩 임베딩 : 데이터의 의미를 압축한 숫자 배열 컴퓨터는 숫자만 이해할 수 있기 때문에.. 밀집 임베딩 ( dense embedding.. 2025. 1. 17. 🔬LLM 어플리케이션 개발하기 : 데이터 로깅 LLM을 활용한 실전 AI 애플리케이션 개발- 허정준💴 데이터 로깅사용자의 입력과 LLM 생성 출력을 기록하는 데이터 로깅 동일한 입력에 대해서도 LLM의 응답이 매번 달라지기 때문에 기록 필요 🗒️ 대표적인 로깅 도구🗒️- W&B Weights & Biases: The AI Developer PlatformWeights & Biases는 모델을 학습 및 파인튜닝하고, 실험부터 생산까지 모델을 관리하며, LLM으로 구동되는 GenAI 애플리케이션을 추적 및 평가할 수 있는 선도적인 AI 개발자 플랫폼입니다.site.wandb.ai- MLflow" data-og-host="mlflow.org" data-og-source-url="https://mlflow.org/" data-og-url="http.. 2025. 1. 16. 🔬LLM 어플리케이션 개발하기 : 데이터 검증 LLM을 활용한 실전 AI 애플리케이션 개발- 허정준💴 데이터 검증적절하지 않은 사용자 요청 처리!적절하지 않은 LLM 응답 내용 처리!💶 데이터 검증 방식규칙 기반 : 문자열 매칭 / 정규 표현식 등 분류 또는 회귀 모델임베딩 유사도 기반: 요청 임베딩 벡터에서 부적절 벡터와 유사도가 높은 부분이 있다면 처리LLM 활용: 부적절한 부분이 있는지 체크 LLM 활용💶 데이터 검증 실습특정 주제에 대해 답변 피하기엔비디아 : NeMo-Guardrails 라이브러리 이용import osfrom nemoguardrails import LLMRails, RailsConfigimport nest_asynciocolang_content = """define user greeting "안녕!" "How.. 2025. 1. 16. 🔬LLM 어플리케이션 개발하기 : LLM 캐시 LLM을 활용한 실전 AI 애플리케이션 개발- 허정준💴 LLM 캐시LLM 생성(추론) => 많은 시간과 비용가능하면 최대한 줄여야 함 요청과 생성 결과를 기록하고 이후에 동일하거나 비슷한 요청이 들어오면 새롭게 텍스트를 생성하지 않고 이전의 생성 결과를 가져와 응답함으로써 LLM 응답 시간을 줄임 벡터 데이터베이스를 이용해서 LLM 캐시 직접 구현해 보기💶 LLM 캐시 작동 원리캐시 요청을 통해 기존에 동일하거나 유사한 요청이 있었는지 확인하고 만약 있었다면 LLM 캐시에 저장된 답변을 모델에 전달 💵 일치 캐시 (Exact match)문자열이 완전히 동일한 응답에 대한 캐시 사용딕셔너리 형식 자료구조에서 키가 동일한 프롬프트를 찾아 값을 반환 💵 유사 검색 캐시 (Similar search).. 2025. 1. 15. 🔬LLM 어플리케이션 개발하기 : RAG 검색 증강 생성 - llamaIndex LLM을 활용한 실전 AI 애플리케이션 개발- 허정준 🧭 LLM 어플리케이션 개발하기LLM 어플리케이션을 개발하기 위해서는 LLM 모델만이 아닌- 임베딩 모델과 벡터 DB- LLM 캐시- 데이터 검증 로직- LLM 모니터링 로직등등...도 추가적으로 필요함!LLM 오케스트레이션 도구LLM 애플리케이션을 위한 다양한 구성요소를 연결하는 프레임워크ex) 라마인덱스 / 랭체인 / 캐노피 등 🗃️ 검색 증강 생성 RAG모델이 모르는 건데 아는 척하는 할루시네이션(환각) 현상을 해결하기 위한 기법모델은 그냥 제일 확률이 높은 말을 하는 애기 때문에 없는 정보에 대한 처리가 어려움 RAG로 해결하기=> 답변에 필요한 정보도 요청과 같이 전달하는 것=> 검색을 통해 보충한 생성 워크플로우 임베딩 대상 데이터를 .. 2025. 1. 14. 🎮 계산기사 게임 앱 찐출시 - 6 : 사용자별 인자 기준 설계 1월 출시하고자 하면 살 것이고, 출시하지 않고자 하면 죽을 것이다TODO- 여러 기기 화면 호환 기능 되는지 보기- 갤럭시 개발 계정 파기 ($25) ✅- 애플 개발 계정 파기 ($99)- 파이어베이스 리얼타임db 세팅 ✅- 사용자 닉네임 사용자 기기 저장✅- 파이어베이스 초기 연결 ✅- 초기 정보 서버 전송 - 메인룸 세게회복도/코인/닉네임/직위 서버 연동- 랭킹홈 닉네임/직위/계산검술숙련도 서버 연동- 랭킹전 점수 연동- 랭킹 보여주는 표 서버 연동- 소리 떨어진 거 다시 붙이기 (스테이지홈배경음끼룩사운드 ✅- 이미지 떨어진 거 다시 붙이기 ✅- 스테이지 홈 복원 ✅- 스테이지 1 복원 ✅- 스테이지 2 복원 ✅- 스테이지 3 복원 ✅- 안 쓰이는 것들 제거 ✅- 랭킹 홈 복원 및 수정- 찐랭킹사.. 2025. 1. 14. 끄적.. 스꾸는 즐거워TODO- OpenAI Capabilities : Function calling 사용/ 실습 ✅+ 구글 독스 / advanced 푸시 PR ✅ - 마움 개선✍️ing+ 프롬프트 엔지니어링✍️ing+ 인자 조절✍️ing+ 성능 통계✍️ing LLM 애플리케이션 앱 책 ✅- 4단원 복습 ✅- 4단원 발퓨ㅛ 요즘 너무 책 안 일ㄷㄱ금.. 2025. 1. 13. 📬️ OpenAI Capabilities : Function calling https://platform.openai.com/docs/guides/function-calling Function callingConnect models to external data and systems. connect language models to external data and systemsdefine a set of functions as tools that the model has access to,execute those functions on the application side, and provide results back to the model from openai import OpenAIclient = OpenAI()tools = [ { "type": "function.. 2025. 1. 13. 이전 1 ··· 27 28 29 30 31 32 33 ··· 122 다음
