전체 글 (41) 썸네일형 리스트형 Docker Export/Import Docker 재시작이 필요했던 이유 1. 기존에 사용하던 컨테이너에서 nvidia-smi 명령어가 먹지 않는 문제 발생 Failed to initialize NVML: Unknown Error https://stackoverflow.com/questions/72932940/failed-to-initialize-nvml-unknown-error-in-docker-after-few-hours Failed to initialize NVML: Unknown Error in Docker after Few hours I am having interesting and weird issue. When I start docker container with gpu it works fine and I see all the .. ERNIE-Layout: Layout Knowledge Enhanced Pre-trainingfor Visually-rich Document Understanding Abstract 최근 많은 visuall-rich document understanding의 pre-training 기법이 많은 발전을 이루었지만 여전히 layout-centered knowledge의 사용에는 부족함이 있다. 이 논문에서는 ERNIE-Layout이라는 text와 layout 및 image 정보를 잘 합쳐서 layout 지식을 향상시키는 모델을 제안한다. 구체적으로 먼저 input sequence를 재정렬한 다음 문서의 적절한 읽기 순서를 학습하기 위해 pre-training task인 읽기 순서 예측을 제시한다. 모델의 layout 인식을 향상시키기 위해 spatial-aware disentengled attion을 multi-modal transformer에 합치고 replaced r.. Unifying Vision, Text, and Layout for Universal Document Processing Abstract 논문에서 다양한 task 형식에 text, image, layout을 통합하는 foundation Document AI 모델인 Universal Document Processing(UDOP)을 제안한다. UDOP는 text와 image 간의 spatial 상관 관계를 활용하여 uniform representation으로 표현하고, 새로운 Vision-Text-Layout Transformer를 통해 UDOP는 pretrain 및 multi 도메인 downstream task를 prompt-based sequence generation scheme으로 통합한다. UDOP는 혁신적인 self-supervised objectives 와 다양한 label이 지정된 데이터를 사용하여 lebel이 .. Docker image와 container 생성 Docker image 생성 사용하고자 하는 환경에 근접한 image를 검색한다. 터미널에서 docker search [키워드] 혹은 docker hub 사이트에서 찾는 방법이 있다. (추천 허브: pytorch/pytorch - Docker Image | Docker Hub) 그대로 image를 생성하기 위해서는 아래의 명령어를 terminal에 입력 $ docker pull [Image name]:[Tag] 검색한 image를 수정하여 사용하려면 scirpt를 만들어서 작업할 수 있다. $ mkdir dockerImg $ vi ./dockerImg/dockerfile 파일 내 예시) FROM [Image name]:[Tag] RUN mkdir -p /home/py WORKDIR /home/py * p.. SSH를 통한 서버 접속 SSH를 통한 연결 확인 cmd에서 ipconfig를 통해 IPv4 주소를 확인 후 전달하여 접속하려하는 서버에서 해당 접속이 가능하도록 요청. cmd에서 전달받은 ID/PW, 주소를 통해 ssh명령어를 통해 접속이 가능한지 확인해본다. 아직 key설정을 하지 않았으므로 전달받은 비밀번호가 필요하며 접속하는 쪽의 터미널이 뜨면 정상이다. $ ssh [USER]@[HOSTNAME] -p [PORT] [USER]: 리눅스 사용자(ID)를 입력 [HOSTNAME]: 네트워크 상 접근 가능한 HOSTNAME이나 IP를 지정 [PORT]: 리눅스 서버의 SSH 포트. 22번을 사용한다면 -p 옵션을 생략 SSH key 생성 cmd에서 ssh-keygen 을 통해 key를 생성한다. 생성된 key의 경로는 화면에 .. LayoutLM: Pre-training of Text and Layout for Document Image Understanding Abstract Pre-training 기법은 다양한 NLP 작업에서 최근 몇 년 간 효과적이라고 검증되었다. 그러나 대부분의 NLP application은 text-level에 집중되어있고 문서의 layout이나 style은 무시되었다. 본 논문에서는 LayoutLM을 제안하며, text와 문서 image로부터 scan된 layout 정보의 상호작용을 효과적으로 연결한다. 또한 image feature를 leverage하여 단어의 visual 정보를 모델에 잘 녹였다. 이는 최초로 text와 layout 정보를 single framework에서 document level pre-training을 jointly하게 수행한 몇몇 downstream task에서 비약적인 성능 향상을 보였다. 1. Intro.. 1-2) Elementary of mathmatics 출처: https://www.edwith.org/bayesiandeeplearning/lecture/24678?isDesc=false Probability 학습 목표 Set이 정의되어 있어야 그 위에 Measure를 정의할 수 있고, Measure가 있어야 Probability를 정의할 수 있습니다. 그래서 이전 학습을 통해 Set과 Measure에 대해서 공부해보았습니다. 이제부터는 베이지안 딥러닝을 공부하기에 앞서 꼭 필요한 개념인 Probability에 대해서 구체적으로 공부해보도록 합시다. Keywords 확률(Probability) 표본공간(Sample space) 확률 시행(Random experiment) 확률 질량 함수(Probability mass function) 베이즈정리(Bayes'.. 1-1) Elementary of mathmatics 출처: https://www.edwith.org/bayesiandeeplearning/lecture/24678?isDesc=false Introduction 학습 목표 이번 챕터에서는 Elementary of mathematics에 대해서 소개할 예정입니다. 베이지안 딥러닝에 대해서 구체적으로 공부하기 이전에 확률에 대해서 구체적으로 정의하고, 앞으로 자주보게 될 여러 용어에 대해서 정확하게 이해할 수 있도록 학습하려고 합니다. 본격적으로 학습하기에 앞서 어떤 내용을 배우게 될 지 간략하게 살펴보도록 해요. Keywords Set theory Measure theory Probability Random variable Random process Functional analysis Whats Wrong w.. 이전 1 2 3 4 5 6 다음
