본문 바로가기

분류 전체보기

카테고리 없음 2021. 8. 13. Tensorflow 1.X 코드 2.X 로 변경하기 TF 2.x 버전으로 올라가면서 1.X에서 사용하던 코드들이 일부 제거되었다. 공식사이트에서 파이썬 코드를 변환해주는 스크립트를 제공해준다. tensorflow 1.X를 굳이 2.X로 바꾸는 이유는 다른 이유도 있겠지만, 현재 사용 중인 GPU가 RTX3000대이거나 CUDA버전을 고정적으로 사용하고 싶을 때 이와 호환되는 tensorflow 2.X를 그대로 쓰려고 하기 때문일 듯 하다. 변환 관련된 내용은 아래 공식 사이트에서 https://www.tensorflow.org/guide/upgrade?hl=ko 필자는 Python에 대한 경험이 많지 않기 때문에 아래 방식이 잘못된 방향일 수 있다. 어쨌건 에러가 발생 안 하도록 이것저것 바꿔본 것을 적어놓는다. 아직 이 코드가 잘 동작하는지 확인하지는 ..
Research 2021. 8. 11. [Paper Review] PSEUDOSEG: DESIGNING PSEUDO LABELS FOR SEMANTIC SEGMENTATION PSEUDOSEG: DESIGNING PSEUDO LABELS FOR SEMANTIC SEGMENTATION, Published as a conference paper at ICLR 2021 Yuliang Zou∗ Zizhao Zhang Han Zhang Chun-Liang Li Xiao Bian Jia-Bin Huang Tomas Pfister [PDF] Google Cloud AI에서 인턴 하던 분이 저자 짧게 보고 바로바로 쓰는거라 중요한 내용이 빠졌을 수도 있음... Introduction 적은 양의 라벨 데이터의 픽셀을 필요로 하고 라벨이 되지 않거나 부족한 부분을 활용하는 data-efficient segmentation에 초점을 맞춘다. 이 논문의 주 아이디어는 semi-supervsied ..
Research 2021. 7. 30. [대충 정리] Loss for Active Learning 동영상을 보면 저자가 잘 설명하니.. 동영상 보는 걸 강력 추천한다... www.youtube.com/embed/9oWC8S2gpyk?start=1 간단하게만 정리.......실제 논문 설명이 아닌.. 논문, 동영상 보고 난 후 생각을 정리함. *주의: 논문 내용과 좀 다른 견해가 발생할 수 있음. 1. 컨셉 Active learning은 결국 prediction 후 각 클래스에 대한 확률 값을 confidence로 활용한다. 하지만 이 confidence는 정확할까?? 진짜 정확도를 예측하기 위해 학습 시 발생하는 Loss를 예측하는 레이어를 추가하겠다는 것. 결국 Multi-task learning의 갈래이기도 하다. 2. 구조 학습 네트워크들은 보통 반복적인 블록으로 연결되어있다. 그 중간중간의 f..
Research 2021. 7. 9. Self-traning에 대한 고찰... (contemplation on Self-Training) Self-training에서 Teacher/Student 방식을 사용하는 이유 - 큰 범주인 semi-supervised learning은 일반적으로 단일 Network를 사용하지만 Self-training은 Teacher-Student 파이프라인이 굳어진 모양새다.. - Pseudo Label이 지정된 데이터의 풍부함과 Augmentation과 같은 정규화 방법의 사용 덕분에 학생은 교사보다 더 나은 모델이 되는 방법을 배운다. [1][2] - Teacher/Student pipeline은 self-training의 효과적인 방식이다. 조금 덜 정확하지만 뭔가 updated(변화되는, 갱신되는) 점을 학습하고 더 강력해지는 모델을 훈련하는 데 목적이 있다. teacher-student pipeline을..
Research 2021. 7. 2. Self-training Research papers #self-training #self-learning #semi-supervised learning 1. ATSO: Asynchronous Teacher-Student Optimization for Semi-Supervised Image Segmentation, CVPR, 2021 - Medial image와 Driving image에 대해 semi-suprvised image segmentation을 하는 논문 - Teacher로부터 pseudo label을 받아 학습하는 student model은 성능이 낮고, 쉽게 고점에 도달하는 학습을 한다. - 이 현상을 lazy mimicking이라고 명명하고 이 현상을 완화하는 논문. - 다른 기법과 구분되는 두 가지 (1) 학습 모델을 계속 이어가기보다 중..
Development 2021. 6. 4. Visual Studio nvcc 바꿔서 컴파일 (1) 설치/환경설정 복수개의 CUDA SDK 설치되야하고, C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations\ 위치에 다음과 같은 파일 존재해야 함. (당연하게도 파일 이름에 포함된 숫자 11.2는 해당 버전에 따라 다름) CUDA 11.2.props CUDA 11.2.targets CUDA 11.2.xml (*혹시 없다면... CUDA SDK 설치된 곳에서 복사해오길, CUDAPATH\v11.3\extras\visual_studio_integration\MSBuildExtensions 위치에 있음) CUDA 컴파일러 NVCC를 다르게 사용하고자 할 때....
Research 2021. 4. 15. Vision Transformer 간단설명 / 링크 모음 1. 링크 모음 [1] colab.research.google.com/github/hirotomusiker/schwert_colab_data_storage/blob/master/notebook/Vision_Transformer_Tutorial.ipynb#scrollTo=fZAPoK8jBtaD [2] ichi.pro/ko/bijeon-teulaenseupomeo-ihae-mich-maegae-byeonsu-gyesan-167719792195827 [3] Vision Transformers for Remote Sensing Image Classification, 2021, remotesensing-13-00516-v3.pdf [4] 나같은 초심자가 보기엔 비추이지만...혹시 모르니. medium.com/pl..
Some tips 2021. 3. 3. [Powershell] 하위 특정 폴더 삭제 & 각 상위 폴더로 일괄 이동시키기 Windows- Powershell 에서 파일 조작을 하고자 한다. 리눅스 명령어가 잘 안먹혀서 이것저것 찾아보고 정리함. ■ A 폴더 밑으로 많은 폴더들이 존재. 각 폴더는 0~100 이름으로 됐으며 각 폴더 내에 test 폴더와 train 폴더가 존재. test 폴더들을 지우고자 한다. 아래와 같은 상태. (1) A폴더 까지 간다. > cd A (2) 다음 폴더가 무엇이 되든 그 폴더 밑의 test폴더를 삭제 (삭제 명령어는 현재 위치 등을 고려하여 유의할 것. 본인책임) > del *\test ■ 다음은 test 와 함께 존재하던 train 폴더 내 파일을 각자 상위 폴더로 이동시키고자 한다. (1) 메모장을 연다. (2) 아래 스크립트를 입력. \0~3 폴더들\train\모든 파일들을 \모든폴더\..