본문 바로가기
  • 컴공생의 공부 일기
  • 공부보단 일기에 가까운 것 같은
  • 블로그

Club379

🦜카부캠 앵무말(Parrotalk) : 파인튜닝하기 저녁 만들었쏘33.3333퍼 분배를 자랑하는 원형 차트DeBERTa v3를 SQuAD 2.0 형식의 데이터로 파인튜닝cuda 설치 확인nvcc --versionPyTorch 설치pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu118  Hugging Face Transformers 라이브러리를 통해 DeBERTa v3 모델을 로드pip install transformers데이터 정제여러 개의 파일 하나의 json으로 합치기   데이터 전처리하기 JSON 파일의 구조가 불일치하거나, None 값이 포함된 데이터가 있어 문제 발생pyarrow와 pandas에서 데이터를 읽는 중 컬럼 구조가 .. 2024. 11. 25.
if(kakaoAI)2024 대학생 참가 후기 카카오테크 블로그 박제 호이잉 대학생 참가자들의 if(kakaoAI)2024 후기 - tech.kakao.com여는 글 '모든 연결을 새롭게’라는 슬로건으로 진행된 if(kakaoAI)202...tech.kakao.com정람지,,,왜 내가 정람지지?! 어떻게 내 별명을 아셧지? 했는데블로그 닉네임이 람지네 🥽 if(kakaoAI)2024 기록if(kakaoAI)2024모든 연결을 새롭게if.kakao.com if(kakaoAI)2024 기술 세션 찾아보기 (날짜별) - tech.kakao.com10월 22일 부터 24일까지, 카카오의 연례 개발자 행사 ‘if(kakaoAI)...tech.kakao.com몇 주 전부터 판교에junggoldchae-coding.tistory.com아니 그리고 다른 사람들 다 멋진데뭐야! 앞으로 .. 2024. 11. 22.
🦜카부캠 앵무말(Parrotalk) : 파인튜닝하기 이사했는데 갑자기 모니터가 안 뜨는 거다,,맥북은 연결되니까 모니터 문제는 아니고본체는 켜지는데ㅠㅠ =>아부지 감사합니다DeBERTa v3(Decoding-enhanced BERT with Disentangled Attention) 모델을 기반으로SQuAD 2.0 데이터셋처럼 정제한 아래와 같은 데이터들을 가지고 파인튜님 데스크탑이 우분투 운영체제에 GPU가 탑재 2024. 11. 17.
🦜카부캠 앵무말(Parrotalk) : 중간 발표 PPT + 카부캠 브이로그 🦜카부캠 브이로그🦜PPT열심히 만들만들🦜시연 영상영상 편집을 했다🦜인공지능 스크립트다음 흐름도는 인공지능 측에 요청,즉 전화 상대의 말이 들어왔을 때의 진행 로직을 가시적으로 보여줍니다. 크게 두 단계로 나누어 볼 수 있습니다.앞쪽 부분은 들어온 말이 "추천할 만한 문장"인지 판별하고, 추천할 만한 말이 될 때까지 문장을 저장합니다.뒤쪽 부분은 이전 대화 문맥을 고려하여 추천 문장을 생성하고 반환하며, 문맥을 업데이트합니다.현재 전체 알고리즘 구조 설계가 완료되었으며, 랭체인 프롬프팅을 이용하여 fast api로 배포된 상태입니다.이후 redis 데이터베이스로 자료구조 업데이트, 직접 튜닝한 모델로의 서빙 진행 등의 고도화와 최적화를 진행할 예정입니다.  초기에는 DeBERTa v3/ko-BART.. 2024. 11. 12.
🌀React Native : 날씨 앱 만들기 🌀 Snack 사이트https://snack.expo.dev Snack - React Native in the browserWrite code in Expo's online editor and instantly use it on your phone.snack.expo.dev텍스트는 안에 웹에서 사용하던 모든 스타일을 사용할 수는 없음 StyleSheet.create 사용 효과적 / 또는 object 만들기 1. div 사용 불가능/ view를 써야 함2. 모든 텍스트는 텍스트 컴포넌트 안에 써야 함3. 원하는 대로 스타일 사용 가능 statusBar : 상단 배터리, 와이파이 등 있는  바 일부 렌더링되는 컴포넌트 중에는 ios,안드로이드 운영체제와 소통하기 위한 것들이 있음. 컴포넌트 Core Co.. 2024. 11. 7.
🦜카부캠 앵무말(Parrotalk) : 성능 검사 파이프라인 ing 성능이 개선되는 것을 보여줄 지표!안되면 어떡하지,,) 🦜성능 검사 파이프라인 만들기1) myModelPrompt 요청용 프롬프트 짜기2) validation dataset을 이용해서 bert 베이스 모델에 요청 보내고 요청,답변 저장하기3) LLMEvaluationPrompt 검증용 프롬프트 짜기4) LLM에게 요청,답변 저장한 내용을 이용해 성능 검사 : 요청,검증 내용 저장하기5) 통계 내기 + 파인튜닝 이후 같은 일 반복 / 비교하기🦜요청용 프롬프트 짜기🦜베이스 모델에 요청, 답변 저장🦜검증용 프롬프트 짜기def make_LLM_evaluation_prompt(context, question, answer) : LLM_evaluation_prompt = f""" 전화 응답 적합.. 2024. 11. 4.
🍳카부캠 흑백개발자 : AI 설계 / 회고 이것이 취업을 위한 백엔드 개발이다 with 자바 - 예스24백엔드 개발자 취업, 무엇을 어떻게 준비할까?생생한 과제테스트 경험을 바탕으로 백엔드 개발자 취업의 모든 것을 배운다!백엔드 개발자를 꿈꾸는 분이라면 이런 이야기를 많이 들어 봤을 것m.yes24.com와 그레이 멘토님이 일이 있으셔서 다음번에는 이 분이 멘토님으로 온대🍳AI 설계제이언니랑 말한 거 피그마 정리🍳회고멘토링도 했는데다음부터 좀 준비를 하고 가기로 함.. 첨에는 했는데요즘은 잡담만 많이 하는 것 같기도..카카오에서 쓰는 툴들 구경이 신기했음 2024. 11. 1.
🍳카부캠 흑백개발자 : 스프린트 회고/요구사항 정의서/IA 구조도 🍳 스프린트 회고데일리 스크럼 매일 진행했고스프린트가 끝나서 회고를 진행 keep/problem/try 쓰고 공유, try 투표해서 도입!🍳 요구사항 정의서 / IA 구조도요구사항 정의서 (Requirement Specification)프로젝트가 달성해야 할 목표와 기능을 명확하게 설명한 문서프로젝트의 범위, 기능, 성능 요구사항, 사용자 요구사항 등을 포함프로젝트 개요: 프로젝트의 목적, 목표, 배경 설명.이해관계자 정의: 시스템을 사용하는 주요 사용자 및 이해관계자 명시.기능 요구사항: 시스템이 제공해야 하는 주요 기능들을 명확하게 나열.비기능 요구사항: 성능, 보안, 확장성, 안정성 등의 비기능적 요구사항.시스템 요구사항: 서버 환경, 네트워크 환경, 데이터베이스 구조 등 기술적 요구.UI/UX.. 2024. 10. 27.
🦜카부캠 앵무말(Parrotalk) : 초기 모델/데이터셋 선정 🦜초기 모델 선정DeBERTa v3(Decoding-enhanced BERT with Disentangled Attention) 모델을 기반으로 SQuAD 2.0 데이터셋에서 파인튜닝된 다국어 질문-응답 모델 timpal0l/mdeberta-v3-base-squad2 · Hugging FaceThis model can be used for Extractive QA It has been finetuned for 3 epochs on SQuAD2.0. Usage from transformers import pipeline qa_model = pipeline("question-answering", "timpal0l/mdeberta-v3-base-squad2") question = "Where do I liv.. 2024. 10. 25.
🦜카부캠 앵무말(Parrotalk) : GPT 파인 튜닝 이야 내 블로그 카카오 사내게시판에 올라갓대!gray 멘토님이 말해주심이럴 줄 알았으면 좀 말투 덜 유치하게 쓸걸🦜 GPT 파인 튜닝openAI 파인 튜닝 공식 가이드라인https://platform.openai.com/docs/guides/fine-tuning  데이터 세트 준비50-100개 사이 예제로 먼저 테스트해보기 AI-Hub샘플 데이터 ? ※샘플데이터는 데이터의 이해를 돕기 위해 별도로 가공하여 제공하는 정보로써 원본 데이터와 차이가 있을 수 있으며, 데이터에 따라서 민감한 정보는 일부 마스킹(*) 처리가 되www.aihub.or.kr훈련과 시험 분할 - Train and test splits데이터 서식 확인데이터 세트를 컴파일한 후 미세 조정 작업을 생성하기 전에 데이터 형식을 확인하는 것.. 2024. 10. 24.

티스토리툴바