본문 바로가기

Develop/인공지능

(13)
PINN 이해하기 (Physics-Informed Neural Network) 출처 https://velog.io/@changwoo7463/BINN-%EA%B0%95%EC%9D%98-%EC%9D%B4%ED%95%B4%ED%95%98%EA%B8%B0 📌PINN에 대해 이해하기 📕 딥러닝 단점 딥러닝 데이터기반접근의 이점이있다. 데이터가 꽤 많으면 적당한 모델에 적당한 성능가능 더 ~ 좋은성능? 은 데이터만으로 한계가있다. 블랙박스단점 1. interpretability X = 해석 불가 2. generalizability X = 일반화 불가 내삽은되는데 외삽은..? 위를 극복하기위해서는? 데이터 품질개선 알고리즘 개선 주제 : Physics 를 적용하자! 📕 딥러닝과 Physics의 조합 왜 데이터기반의 블랙박스 방법이 실패할까? 아마 추론값은 물리적 정합성이 떨어질것이다. 그럴듯하..
logit, sigmoid, softmax 함수 이해하기 https://opentutorials.org/module/3653/22995 logit, sigmoid, softmax의 관계 2018-12-01 23:00:10 [logit, sigmoid, softmax의 관계] 이번에는 logit, sigmoid, softmax의 관계에 대해서 알아보겠습니다. 이것들이 서로 다 다른 개념같지만 서로 매우 밀접하게 관련이 있는데요. 그림의 가운데 부분에서 세 개념의 관계를 화살표로 엮어놓았습니다. 결론부터 일단 말씀드리면 - logit과 sigmoid는 서로 역함수 관계이고 - 2개 클래스를 대상으로 정의하던 logit을 K개의 클래스를 대상으로 일반화하면 softmax함수가 유도(derived)됩니다. - softmax함수에서 K를 2로 놓으면 sigmoid함수로..
Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 3 출처 : https://yhkim4504.tistory.com/7 Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 3 github.com/FrancescoSaverioZuppichini/ViT FrancescoSaverioZuppichini/ViT Implementing Vi(sion)T(transformer). Contribute to FrancescoSaverioZuppichini/ViT development by creating an account on GitHu.. yhkim4504.tistory.com 개요 지난 글에서 patch embedding에 이어 multi head attention까지 진행하였고 이제는 VIT Encoder 구조를 구현해 보겠습니다. Re..
Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 2 출처 : https://yhkim4504.tistory.com/6 Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 2 github.com/FrancescoSaverioZuppichini/ViT FrancescoSaverioZuppichini/ViT Implementing Vi(sion)T(transformer). Contribute to FrancescoSaverioZuppichini/ViT development by creating an account on GitHu.. yhkim4504.tistory.com 개요 패치임베딩까지 진행하였고 이번에는 Multi Head Attention을 진행해보도록 하겠습니다. MHA(Multi Head Attention) Multi He..
Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 1 출처 : https://yhkim4504.tistory.com/5 Vision Transfromer (ViT) Pytorch 구현 코드 리뷰 - 1 개요 이미지를 패치들로 나누어 Transformer Encoder에 적용한 Vision Transformer의 구현코드 리뷰입니다. github.com/FrancescoSaverioZuppichini/ViT FrancescoSaverioZuppichini/ViT Implementing Vi(sion)T(t.. yhkim4504.tistory.com 이미지를 패치들로 나누어 Transformer Encoder에 적용한 Vision Transformer의 구현코드 리뷰입니다. github.com/FrancescoSaverioZuppichini/ViT France..
Document Understanding 그리고 Information Extraction의 Approach, Multi-Modal Embedding https://blog.dramancompany.com/2022/03/document-understanding-information-extraction-multi-modal-embedding-layoutlm-docformer-vibertgrid/ 안녕하세요 드라마앤컴퍼니 빅데이터 센터의 AI Lab에서 일하고 있는 강민석입니다. 빅데이터 센터의 간략한 소개부터 하면 약 3.5억 장의 명함과 관계 데이터, 채용 정보를 활용해 비즈니스 도메인에서 더 높은 차원의 가치를 창출하기 위한 관련 연구와 관리 활동을 담당하는 조직입니다. 빅데이터 센터의 AI Lab은 Recommendation System, Ranking Model, Graph Neural Network, Natural Language Process..
유용한 인공지능 블로그 링크 모음 https://deep-learning-study.tistory.com/ 딥러닝 공부방 까먹으면 다시 보려고 정리하는 블로그 deep-learning-study.tistory.com https://jiho-ml.com/weekly-nlp-1/ Week 1 - 컴퓨터에게 언어는 어떤 의미일까? 우리는 언어라는 것을 어떻게 인식하고 있을까요? 여러분에게 언어는 무엇인가요? jiho-ml.com https://seunghan96.github.io/ AAA (All About AI) Machine Learning, Deep Learning, Data Science, Data Engineering, Statistics.. seunghan96.github.io https://woosikyang.github.io/p..
GNN 관련 링크 https://data-newbie.tistory.com/706 GNN- 1탄 Graph 기본 개념 알아보기 2021.03.13 - [관심있는 주제] - GNN- 1탄 Graph 기본 개념 알아보기 2021.03.13 - [관심있는 주제] - GNN - 2탄 GNN 기본 개념 알아보기 그래프 신경망 (GNN)은 최근 그래프 구조 데이터를 분석하는 능력으로 인.. data-newbie.tistory.com https://data-newbie.tistory.com/707?category=884325 GNN - 2탄 GNN 기본 개념 알아보기 2021.03.13 - [관심있는 주제] - GNN- 1탄 Graph 기본 개념 알아보기 2021.03.13 - [관심있는 주제] - GNN - 2탄 GNN 기본 개념 ..