LLM으로 논문쓰기 도전기— 한 학부생의 연구 생존 기록 [4화] _ 논문의 선행 논문들을 짚어가기
그간 몇주간 진도가 안나갔다.
체력때문인지 뭔가 다시 또 턱 막힌 기분인지..
아님 진짜 핑계인건지..
확실한 길이야!라고 생각하기엔
의문점들이 드는 부분들이 있었다....(또?)
우선 그간의 상황 요약을 또 하겠다.
우선 저번 3화에 소개한 4개의 논문을 내가 한번에 찾은 것처럼 말했지만,
실은 처음엔 4번째 논문만 찾았다.
찾은 경로는 제미나이랑 라이너가 동시에 추천하는 걸로.
근데, 읽다보니 이게 이것만 읽으면 되는걸까? 싶었다.
그래도 우선은 자꾸 계획만 세우면서 실행 안하는 사람은 되기 싫어서
신박사 어쩌고 그 패스트캠퍼스 인강이 말하는 것처럼
노트북LM으로 그 4번째 논문부터 섹션별 500자 요약으로 읽었다.
500자 요약을 각 섹션별로 갈무리하니 드는 의문.
정말 이것만으로 진행하는게 맞나? 이것만이 대표 논문일까?
SOTA는 뭐고 트렌드는 한줄기로 진행되나?
아는게 없으니 질문도 이상했다.
그래서 제미나이에게 물어봤다.
"
일반화 성능을 높이기 위해 쓰인 엔지니어링 기법과 관련된 대표적 논문들을 소개해줘. 그리고 해당 논문과 함께 기법도 소개해줘. 그리고 이들의 성과 또한 제시해줘
"
그랬더니 저 4개의 논문을 제시해줬다.
그래서 저 4개의 논문을 읽으면 정말 갈피가 잡히겠지 싶었다.
실은 교수님은 내가 4번째 논문을 500자 요약으로만 읽고난 후
한번 브리핑 발표(요약으로만이 아닌 완벽히 읽은 척 발표를 했다...하하..)를 드리니
이게 건드릴 껀덕지가 많아보인다고 이걸 구현부터 해보자고 했다.
근데 막상 시도하자니,,,
뭔가 안내켰다.
교수님 말을 안듣겠다는게 아니라,
이대로 진행하면
너무 많은 시행착오를, 너무 많은 시간과 비용을 들여
겪게 될것 같은 기분...?
이게 맞나 싶었다.
교수님이야 가지신 지식이 많으시니
이 정도에서 시작해도 감을 어련히 찾으시겠지만,
나는 모르는게 너무 많았다.
우선 예측 성능을 많이 개선한 다른 분야를 참고해야하려나?
그래서 제미나이에게 물어봤다.
"
혈압의 경우 개별 데이터 별로도 다른 양상을 보이지만, 한 사람 내에서도 상황과 조건에 따라 혈압이 다양한 변수를 가지고 변화해. 이와 같이 예측하는데 다양한 변수들을 고려해야하는 예측 분야들 중에서, 예측 성능을 많이 개선한 건 뭐가 있지? 혈압 예측하는데 방법론을 참고하고 싶어. 가능하면 시계열 예측이였으면 좋겠어
"
이런저런 나름 획기적이여보이는 답변들을 봤지만..
이런 생각들이 정말 쓸만했다면, 왜 이제까지 혈압추정에 적용안된거지?
-라는 생각이 들었다.
쓸만한 아이디어면 이미 적용되었지 않았을까?
막막했기에 우선은 멈추고,
원래 하던거나 다시 하기로 했다.
500자 요약만으로도 완벽히 읽은 느낌이였지만,
신박사 그 패스트캠퍼스 인강이 말하는 대로
1000자, 2000자 요약으로도 읽기 시작했다.
1000자를 읽을때는 이게 의미가 있는 작업이려나하는 의구심이 들었지만,
(V. DISCUSSION 파트에서 뿜어져나오는 ???들도 있었지만
나중에 해소될 의문일수 있으니 우선 닥치고 읽었다. 그래서 더 들었던 의구심.. )
2000자를 읽을때는 뭔가 못보던 세세한 논리적 흐름들이 더 보였다.
처음에는 이 논문이 하는 말이 다 맞는구나 싶었던 말들이
다시 보니 자기 논리에 이 논문들을 갖다끼운거구나 하는게 보였다.
그랬더니 선행 논문들이 눈에 들어오기 시작했다.
차피 이 선행논문들은 읽고 있던 논문 뒤에 출처가 밝혀져 있을테니 마음 놓고 물었다.
도메인 적응 관련 매우 옛날 논문이 보였다.
뭐지..
혈압 예측에 도메인 적응이 도입된건 내가 읽던 논문이 효시?아니였나?(아니였다.)
잘못된 생각 바탕으로,
제미나이 서칭 시작
그리고...
내가 제미나이 설정을 쫌 해둔 덕에,,,
다음과 같은 제언을 얻었고,,,
제미나이와 챗지피티를 왔다갔다하며
(챗지피티로 간 이유는, 물어본 내용에 대해 간단하고 학습에 용이하게 잘 설명해줘서..!
다른 이유는 없었다.)
계속 이 방향성을 중심으로 더 조사하기 시작했다.
그 결과, Ben-David(2010) 이후로 도메인 적응 분야의 변천사가 보였다.
시계열에는 어떻게 적용되었는지가 보였다.
보다 보니,
처음엔 당연히 도메인 지식을 최대한 활용해서 컬럼 추가를 한후 분석하면... 되는 줄 알았는데,
이제 보니 해당 방향은 한계가 있으니 시계열 데이터 그 자체를 이용해 뜯어보는게 맞고,
도메인 적응은 최근에 생체 데이터에 내가 읽던 논문을 기점으로 도입되었으니
이제 다양한 가설을 설정하기 시작해야하는 부분이 아니라,
처음부터 이와 관련된 기술은 옛날부터 시작되어 시계열에 접목된지 꽤 되었으며 그 방향성도 많이 잡혔고
현재 생체데이터에도 마찬가지로 꽤 많이 접목되었기에 해당 상황들을 바탕으로 개선을 고려해야한다는게 보였다.
도메인 적응은 곁다리, 그니깐 조연인줄 알았는데
주연이였다.
(당시의 판단으로는?)
조금씩 더 구체적인 각이 보이는것 같다는 생각이 들었다..
