본문 바로가기
  • 컴공생의 공부 일기
  • 공부보단 일기에 가까운 것 같은
  • 블로그

Club|Project/Euron | AI,데이터분석 학회19

🧠 Transformer architecture 보호되어 있는 글 입니다. 2025. 3. 20.
✳️ [GAN: Generative Adversarial Nets] 논문 공부 보호되어 있는 글 입니다. 2025. 3. 20.
✳️ [Attention Is All You Need] 발표 ✳️ [Attention Is All You Need] 발표어려워서 걱정했는데나름 괜찮게 한 둣!트랜스포머 정복 (아마 (아닐듯뉴진스 어텐션 포즈ㅋㅋㅋㅋㅋㅋ인스타에 올라간대오...너무웃지말걸ㅋㅋㅋ큐ㅠㅠ✳️ [Attention Is All You Need] ppt 완성본✳️ [Attention Is All You Need] 발표대본  Position-wise Feed-Forward Networks (FFN) in Transformer Transformer 모델의 Encoder와 Decoder의 각 레이어에는 Self-Attention 레이어와 함께 피드 포워드 네트워크(FFN)가 포함됨! • Self-Attention은 문맥(Context)을 반영한 가중치를 계산하지만,개별 단어의 정보를 더욱 강화할 필요.. 2025. 3. 18.
🧠 ResNet 잔차 신경망 딥러닝 파이토치 교과서 - 서지영🧠 ResNet 깊어진 신경망을 효과적으로 학습하기 위한 방법! 깊은 신경망 문제점신경망 깊이가 깊어질수록 딥러닝 성능은?=> 좋아지다가 일정한 단계에서 나빠짐"네트워크 깊이가 깊다고 해서 무조건 성능이 좋아지는 것은 아님" residual block 레지듀얼 블록기울기가 잘 전파될 수 있는 일종의 shortcut( resnet의 층이 많아서 기울기 소멸 문제가 발생할 수 있기 때문에 만든 방지책 ) block 블록 계층의 묶음 = 합성곱층을 하나의 블록으로 묶은 것색깔별로 하나의 레지듀얼 블록레지듀얼 블록 여러 개 => resnet  1️⃣ 계층(Layer)신경망을 구성하는 기본 단위2️⃣ 신경망(Neural Network)여러 개의 계층(Layers)이 연결되어 만들.. 2025. 3. 17.
✳️ [Attention Is All You Need] 논문 코드 구현 / ppt제작 ✳️ code 구현 Deep-Learning-Paper-Review-and-Practice/code_practices/Attention_is_All_You_Need_Tutorial_(German_English).ipynb at master · nd꼼꼼한 딥러닝 논문 리뷰와 코드 실습. Contribute to ndb796/Deep-Learning-Paper-Review-and-Practice development by creating an account on GitHub.github.com출처 Attention_is_All_You_Need_Tutorial_(German_English).ipynbColab notebookcolab.research.google.com ✳️ PPT Attention Is Al.. 2025. 3. 16.
✳️ [Attention Is All You Need] 논문 공부 뇽뇽뇽✳️ 논문 읽기Attention Is All You Needhttps://proceedings.neurips.cc/paper/2017/file/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf  사실 뒤로 갈수록 힘 빠짐..✳️ 더 공부 : 유튜브 강의나동빈씨 짱 강의 잘 하심트랜스포머 이전 전통적 임베딩- 원 핫 인코딩- 각각의 레이어 트랜스포머- RNN을 사용하지 않으려면 별도 위치 정보를 알려줘야 함- Positional Encoding 필요- 각각의 토큰에 대해 연관된 확률 계산 가능- 각각의 레이어는 이 인코더 에 마지막 레이어에서 나오게 된 출력값을 입력으로 받는 것- 하나의 레이어에서 어텐션 두 번 셀프 어텐션 :  각각의 단어들이 서로가 서로에게 어떠한 가중.. 2025. 3. 16.
✳️ AI 논문 리뷰 템플릿 / 논문 고르는 법 / 논문 읽는 법 보호되어 있는 글 입니다. 2025. 3. 10.
✳️ [Deep residual learning for image recognition] 논문 리뷰 보호되어 있는 글 입니다. 2025. 3. 6.
✳️ Euron OT ✳️ 피자 맛있었다    나는 research 세션이다DL로 지원했었는데전화로 research로 바꾸는 걸 권장하셔서 업그레이드 됨 난ㅎㅎ아무것두모르는데웅니들이랑 이야기하면서졸프를 나두 연구 트랙으로 해 볼까???다 연구 트랙 하드라거 2025. 3. 4.