바로가기메뉴

본문 바로가기 주메뉴 바로가기

logo

검색어: journal evaluation, 검색결과: 20
11
한유경(정보통신정책연구원) ; 최원석(정보통신정책연구원) ; 이민철(카카오엔터프라이즈) 2023, Vol.40, No.2, pp.115-135 https://doi.org/10.3743/KOSIM.2023.40.2.115
초록보기
초록

본 연구는 단행본, 학술지, 보고서 등 다양한 종류의 발간물로 구성된 연구보고서의 참고문헌 데이터베이스를 효율적으로 구축하기 위한 것으로 딥러닝 언어 모델을 이용하여 참고문헌의 자동추출 성능을 비교 분석하고자 한다. 연구보고서는 학술지와는 다르게 기관마다 양식이 상이하여 참고문헌 자동추출에 어려움이 있다. 본 연구에서는 참고문헌 자동추출에 널리 사용되는 연구인 메타데이터 추출과 더불어 참고문헌과 참고문헌이 아닌 문구가 섞여 있는 환경에서 참고문헌만을 분리해내는 원문 분리 연구를 통해 이 문제를 해결하였다. 자동 추출 모델을 구축하기 위해 특정 연구기관의 연구보고서 내 참고문헌셋, 학술지 유형의 참고문헌셋, 학술지 참고문헌과 비참고문헌 문구를 병합한 데이터셋을 구성했고, 딥러닝 언어 모델인 RoBERTa+CRF와 ChatGPT를 학습시켜 메타데이터 추출과 자료유형 구분 및 원문 분리 성능을 측정하였다. 그 결과 F1-score 기준 메타데이터 추출 최대 95.41%, 자료유형 구분 및 원문 분리 최대 98.91% 성능을 달성하는 등 유의미한 결과를 얻었다. 이를 통해 비참고문헌 문구가 포함된 연구보고서의 참고문헌 추출에 대한 딥러닝 언어 모델과 데이터셋 유형별 참고문헌 구축 방향을 제안하였다.

Abstract

The purpose of this study is to assess the effectiveness of using deep learning language models to extract references automatically and create a reference database for research reports in an efficient manner. Unlike academic journals, research reports present difficulties in automatically extracting references due to variations in formatting across institutions. In this study, we addressed this issue by introducing the task of separating references from non-reference phrases, in addition to the commonly used metadata extraction task for reference extraction. The study employed datasets that included various types of references, such as those from research reports of a particular institution, academic journals, and a combination of academic journal references and non-reference texts. Two deep learning language models, namely RoBERTa+CRF and ChatGPT, were compared to evaluate their performance in automatic extraction. They were used to extract metadata, categorize data types, and separate original text. The research findings showed that the deep learning language models were highly effective, achieving maximum F1-scores of 95.41% for metadata extraction and 98.91% for categorization of data types and separation of the original text. These results provide valuable insights into the use of deep learning language models and different types of datasets for constructing reference databases for research reports including both reference and non-reference texts.

12
이선희(한국과학기술정보연구원) ; 김지영(한국과학기술정보연구원) 2020, Vol.37, No.2, pp.285-310 https://doi.org/10.3743/KOSIM.2020.37.2.285
초록보기
초록

본 논문은 고에너지 물리학(HEP) 분야 국내 연구자들의 학술 커뮤니케이션의 특성을 파악하고자 성공적인 오픈액세스 모델로 평가되는 SCOAP3 학술지를 분석하였다. HEP 분야 국내 연구자들의 협업과 연구 활동 내용을 파악하기 위한 연구방법으로 통계를 활용한 양적 분석과 저자 소속기관과 학술지에 대한 네트워크 분석을 수행하였다. 연구 결과, 국내 연구자가 참여한 10종의 SCOAP3 학술지 가운데 국내 저자 참여 논문 비율은 전체 논문 가운데 8.0%였다. 논문 한 편당 공저자 수가 천 명이 넘는 논문 비율이 전체 논문의 28.7%나 되었다. 이 분석 결과들은 HEP 글로벌 네트워크에서 국내 연구자들이 적극적으로 협업하고 있다는 것을 증명하였다. 소속기관을 중심으로 협력 관계를 파악하고자 네트워크 분석을 실시한 결과, 협력 네트워크를 3개의 클러스터로 구분할 수 있었다. 즉 S대학 중심의 클러스터, CERN과 협력 인프라를 제공하는 K연구기관 중심의 클러스터, 그리고 I연구원 중심의 클러스터로 나누어졌다. 연구기관과 학술지의 네트워크 분석을 통하여 학술지 중 JHEP, PRD, PLB가 참여도가 높은 학술지였으며 대학들과 연구원들도 협력하여 오픈 액세스 논문 저작에 참여하고 있음을 알 수 있었다. 본 연구 결과는 SCOAP3 컨소시엄에 참여하는 도서관들이 HEP 분야 연구자를 이해하고 이들을 위한 최적의 연구 정보환경을 구축하기 위한 기초자료로 활용될 수 있다.

Abstract

This paper analyzed SCOAP3 journals, which have been evaluated as successful open access models, to understand the characteristics of scholarly communication among domestic researchers in the field of high energy physics (HEP). As research methods, a quantitative analysis using statistics and a network analysis of authors’ affiliated institutions and academic journals were conducted to understand collaboration and research activities of domestic researchers in the HEP field. The results of the study revealed that, among the 10 SCOAP3 journals in which Korean researchers participated, the proportion of articles in which Korean authors participated was 8.0% of the total. The proportion of papers with more than 1,000 co-authors per paper was 28.7% of the total. The results of this analysis proved that Korean researchers were actively collaborating in the HEP global network. From the results of the network analysis to understand the cooperative relationship centered on the affiliated organization, the cooperative network could be divided into three clusters: a cluster centered on S universities, a cluster centered on K research institutes that provided researchers a cooperative infrastructure with CERN, and a cluster centered on I research institute. Through the network analysis for research institutes and journals, it was found that JHEP, PRD, and PLB among academic journals were highly participating journals, and universities and researchers were also participating in the writing of open access papers. The results of this study can be used as a basic resource for understanding researchers and building a research information environment in libraries.

초록보기
초록

본 연구는 사용자의 중심의 시스템을 지향하고 있는 현 시점에서 사용자 인터페이스 연구의 동향을 분석하는 것이 그 어느 때 보다 중요하다고 보고, 최근 10년 동안에 정보학분야에서 수행된 사용자 인터페이스 연구를 정량적으로 그리고 정성적으로 살펴보았다. 즉, 6개의 정보학관련 학술잡지에 수록된 128편의 논문을 분석하여 다음과 같은 4가지의 연구질문에 답하였다: 1) 어떠한 주제들이 연구되었는지, 2) 어떠한 학술지가 주로 어떠한 주제의 논문을 출판하는지, 3) 어떠한 방법론이 어떤 주제에서 많이 사용되고 있는지, 4) 연도별 연구변화는 어떠한지. 이에 따라 본 연구는 주제별 분포, 학회지별 분포, 학회지별 주제 분포, 방법론별 학회지 분포, 방법론별 주제 분포, 연도별 주제 분포와 연도별 학회지 분포를 살펴보고 정성적으로 각각의 논문들을 주제별로 리뷰하였다. 그 결과, 「정보관리학회지」가 비율적으로 이 주제를 가장 많이 다루고 있는 것으로 나타났고, ‘웹사이트 평가’, ‘탐색 인터페이스’, ‘정보설계’, ‘상호작용 스타일 설계’ 순으로 연구가 많이 수행되었다. 또한 방법론은 서베이 연구 방법론, 비개입적 연구방법론, 실험연구 방법론 순으로 많이 사용된 것으로 나타났다. 그리고 사용자 인터페이스 연구는 2000년대 초반에 후반보다 더 많은 연구가 수행된 것을 알 수 있었다. 앞으로 사용자 인터페이스 연구가 보다 확고한 정보학의 소주제 영역으로 자리 잡기 위해서는 폭넓은 연구주제와 연구방법론의 선택이 필요하다고 본다.

Abstract

The aims of this study are to provide an overview of research trends on user interface in the field of Information Science. This study attempts to address the following four questions: 1) what are the research areas or subject topics, 2) what are the patterns of user interface publication, 3) what methods are often used to what topics, and 4) what are the changes in the subject topics and research methods over the past ten years. It analyzed a total of 128 research articles published in four Korean LIS journals and one U.S. journal. The study also reviewed 72 articles published in Korean journals for identifying research trends. The study found that the most productive areas were ‘web site evaluation’, followed by ‘search interface’, ‘information design’ and ‘interaction style design’. The most frequently used research methods were survey methods, followed by unobtrusive methods, and experiments. Journal of the Korean Society for Information Management published the most articles on research of user interface. The research of user interface was conducted more frequently in the early 2000s than later years.

14
김인후(중앙대학교 문헌정보학과 대학원) ; 김성희(중앙대학교 문헌정보학과) 2022, Vol.39, No.3, pp.293-310 https://doi.org/10.3743/KOSIM.2022.39.3.293
초록보기
초록

본 연구에서는 한국어 데이터로 학습된 BERT 모델을 기반으로 문헌정보학 분야의 문서를 자동으로 분류하여 성능을 분석하였다. 이를 위해 문헌정보학 분야의 7개 학술지의 5,357개 논문의 초록 데이터를 학습된 데이터의 크기에 따라서 자동분류의 성능에 어떠한 차이가 있는지를 분석, 평가하였다. 성능 평가척도는 정확률(Precision), 재현율(Recall), F 척도를 사용하였다. 평가결과 데이터의 양이 많고 품질이 높은 주제 분야들은 F 척도가 90% 이상으로 높은 수준의 성능을 보였다. 반면에 데이터 품질이 낮고 내용적으로 다른 주제 분야들과 유사도가 높고 주제적으로 확실히 구별되는 자질이 적을 경우 유의미한 높은 수준의 성능 평가가 도출되지 못하였다. 이러한 연구는 미래 학술 문헌에서 지속적으로 활용할 수 있는 사전학습모델의 활용 가능성을 제시하기 위한 기초자료로 활용될 수 있을 것으로 기대한다.

Abstract

In this study, we analyzed the performance of the BERT-based document classification model by automatically classifying documents in the field of library and information science based on the KoBERT. For this purpose, abstract data of 5,357 papers in 7 journals in the field of library and information science were analyzed and evaluated for any difference in the performance of automatic classification according to the size of the learned data. As performance evaluation scales, precision, recall, and F scale were used. As a result of the evaluation, subject areas with large amounts of data and high quality showed a high level of performance with an F scale of 90% or more. On the other hand, if the data quality was low, the similarity with other subject areas was high, and there were few features that were clearly distinguished thematically, a meaningful high-level performance evaluation could not be derived. This study is expected to be used as basic data to suggest the possibility of using a pre-trained learning model to automatically classify the academic documents.

15
최광남(한국과학기술정보연구원) ; 조현양(경기대학교) ; 안세필(Kins,Inc) 2002, Vol.19, No.4, pp.77-94 https://doi.org/10.3743/KOSIM.2002.19.4.077
초록보기
초록

본 연구에서는 한국과학기술정보연구원에서 구축중인 한국과학기술인용색인을 바탕으로 국내 주요 과학기술계 학술지에 수록된 연구 논문을 중심으로 연구자들의 인용현황을 분석하였다. 또한 기계공학 분야를 실험 대상으로 선정하여 현재 SCI의 기계공학 분야의 인용 순위와 비교한 결과 SCI의 JCR과는 실질적인 차이가 있음을 발견하였다. 본 연구는 국내 연구자에게 분야별 필수적인 연구 정보원의 제공과 국내 기관별, 분야별 과학기술 수준을 파악하고 평가하기 위한 도구로서 활용이 가능한 한국인용색인데이터베이스의 효율적인 구축방안 및 서비스모델을 제안한다.

Abstract

In this study we analyze the present situation of cited and citing references among researchers, based on Korean Science Citation Index developed by Korea Institute of Science & Technology Information. There are some differences on the rank of frequently cited journals between JCR of ISI and KSCI, especially in the field of mechanical engineering. The purpose of this study is to find an efficient way of constructing KSCI database and to propose a service model which can be available as a tool to evaluate research activities and to provide researcher with basic information resources.

16
서은경(한성대학교) ; 유소영(한남대학교) 2013, Vol.30, No.4, pp.215-239 https://doi.org/10.3743/KOSIM.2013.30.4.215
초록보기
초록

Abstract

Even though the overall scholarly community has recognized a dramatic growth and changes in the Information Science research in Korea over the last few decades, there are still only few studies that have identified the changes in terms of long-term and dynamic point of view. We have analyzed 1,007 IS-research articles from leading Korean journals in KCI (Korea Citation Index), published between 2000 and 2011. To discern the trendline of changes in research interests over time, we conducted a time-series analysis by developing grounded subject scheme from the article set and checking the growth rate of the number of published articles and title keywords. A comparative analysis was also conducted by constructing and comparing co-word maps over time to discover visible changes in research topics over this 12-year period of the IS-research in Korea. As a result, we identified some developments and transformations in major subject areas and knowledge structure of the IS-research in Korea over time. The major trend we discovered is that IS-studies over the 12-year period evolved from system-oriented research to library-application research. The changes are especially observed in knowledge management, Web-based system evaluation, and information retrieval areas. When compared to the results of other studies, the result of our study may serve as an evidence of the localization of Korean IS-studies in the first decade of the 21st century.

초록보기
초록

본 연구는 우리나라 대표적인 정보학분야 학회지인 『정보관리학회지』에 25년 동안에 발표된 학술논문을 대상으로 동향분석을 시도하여 각 시기별 우리나라 정보학분야의 학문적 구조와 그 변화를 파악하였다. 이를 위하여 먼저 25년을 1984-1994, 1995-2002, 2003-2009로 나눈 다음, 각 기간별 『정보관리학회지』에 실린 학술논문의 주제를 분석한 후 각 논문의 주제분포, 주제영역별 논문의 증감, 주제영역별 연도 분포를 살펴보았다. 또한 논문의 표제어를 이용하여 기간별 정보학의 지적 구조를 생성하였고 세 개의 지적 구조를 비교하여 정보학 연구의 변화를 분석하였다. 그 결과 『정보관리학회지』 연구의 주요 대주제 영역은 ‘정보서비스’, ‘정보조직’ 그리고 ‘정보시스템’이며 소주제 영역은 도서관서비스, 이용자연구, 자동문헌처리, 도서관통합시스템, 시소러스/온톨로지, 디지털도서관인 것으로 나타났다. 또한 표제어의 지적 구조를 분석한 결과, 정보학의 핵심영역은 여전히 정보검색이지만 각종 도서관이나 시스템에 활용된 정보기술 기법이나 서비스 평가에 대한 연구가 점점 늘어나고 이에 대한 주제영역이 확장되고 있음을 알 수 있었다.

Abstract

The aims of this study were to provide a global overview of research trends in information science and to trace its changes in the main research topics over time using trends analysis. The study examined the topics of research articles published in Journal of Korean Society for Information Management between 1984 and 2009. Rather than taking a single snapshot of a given point in time, this study attempted to present a series of such pictures in order to identify trends over time. The fairly arbitrary decision was taken to divide the period under consideration into three ‘publication windows’: 1984-1994, 1995-2002, 2003-2009. The study revealed that the most productive areas were ‘Information Service’, followed by ‘Information Organization’, and ‘Information System’. The most productive sub-areas were ‘Library Service’, ‘User Study’, ‘Automatic Document Analysis’, ‘ILS’, ‘Thesaurus/Ontology’, and ‘Digital Library’. From the comparisons of intellectual structures of title keywords, the key research area in the field of Information Science was ‘Information Retrieval’. The studies of IT applications and service system evaluation have been expanded.

18
김선욱(경북대학교 사회과학대학 문헌정보학과) ; 양기덕(영남고문헌아카이브센터) 2022, Vol.39, No.3, pp.99-132 https://doi.org/10.3743/KOSIM.2022.39.3.099
초록보기
초록

본 연구의 목적은 LDA 토픽모델링 결과와 BERTopic 토픽모델링 결과를 합성하는 방법론인 Augmented and Extended Topics(AET)를 제안하고, 이를 사용해 문헌정보학 분야의 연구주제를 분석하는 데 있다. AET의 실제 적용결과를 확인하기 위해 2001년 1월부터 2021년 10월까지의 Web of Science 내 문헌정보학 학술지 85종에 게재된 학술논문 서지 데이터 55,442건을 분석하였다. AET는 서로 다른 토픽모델링 결과의 관계를 WORD2VEC 기반 코사인 유사도 매트릭스로 구축하고, 매트릭스 내 의미적 관계가 유효한 범위 내에서 매트릭스 재정렬 및 분할 과정을 반복해 증강토픽(Augmented Topics, 이하 AT)을 추출한 뒤, 나머지 영역에서 코사인 유사도 평균값 순위와 BERTopic 토픽 규모 순위에 대한 조화평균을 통해 확장토픽(Extended Topics, 이하 ET)을 결정한다. 최적 표준으로 도출된 LDA 토픽모델링 결과와 AET 결과를 비교한 결과, AT는 LDA 토픽모델링 토픽을 한층 더 구체화하고 세분화하였으며 ET는 유효한 토픽을 발견하였다. AT(Augmented Topics)의 성능은 LDA 이상이었으며 ET(Extended Topics)는 일부 경우를 제외하고 대부분 LDA와 유사한 수준의 성능을 나타내었다.

Abstract

The purpose of this study is to propose AET (Augmented and Extended Topics), a novel method of synthesizing both LDA and BERTopic results, and to analyze the recently published LIS articles as an experimental approach. To achieve the purpose of this study, 55,442 abstracts from 85 LIS journals within the WoS database, which spans from January 2001 to October 2021, were analyzed. AET first constructs a WORD2VEC-based cosine similarity matrix between LDA and BERTopic results, extracts AT (Augmented Topics) by repeating the matrix reordering and segmentation procedures as long as their semantic relations are still valid, and finally determines ET (Extended Topics) by removing any LDA related residual subtopics from the matrix and ordering the rest of them by (BERTopic topic size rank, Inverse cosine similarity rank). AET, by comparing with the baseline LDA result, shows that AT has effectively concretized the original LDA topic model and ET has discovered new meaningful topics that LDA didn’t. When it comes to the qualitative performance evaluation, AT performs better than LDA while ET shows similar performances except in a few cases.

19
최희윤(한국과학기술정보연구원) ; 황혜경(한국과학기술정보연구원 (미사용)) ; 백종명(한국과학기술정보연구원) 2012, Vol.29, No.1, pp.279-302 https://doi.org/10.3743/KOSIM.2012.29.1.279
초록보기
초록

본 연구의 목적은 우리나라 오픈액세스서비스에 대한 이용자의 만족도를 분석하여 향후 오픈액세스 활동의 활성화 및 발전방안 수립을 위한 전략과제를 도출하는 데 있다. 이를 위해 오픈액세스코리아 서비스의 이용자를 대상으로 만족도 조사를 실시하였다. 서비스별 품질을 나타내는 이용자의 만족도 지표는 해당 서비스에 대해 이용자들이 지각하는 품질을 측정할 수 있도록 설계하였으며, 품질지수, 만족지수, 성과지수로 구성되었다. 분석결과 사회적 품질, 사회적 만족 등의 항목은 상대적으로 높게 산출되어 국내 연구자들의 오픈액세스서비스에 대한 사회적 기여도 및 공익성 측면에서의 긍정적인 평가와 기대를 확인하였다. 반면, 서비스 과정품질 항목은 상대적으로 낮은 만족도를 보여주었으며 국내 오픈액세스 콘텐츠의 부족에 대한 의견이 다수 도출되어 국가 차원의 전략수립 시 콘텐츠 개발 및 확보 전략에 대한 고려가 중요함을 알 수 있었다. 또한 오픈액세스에 대한 정책적 지원, 오픈액세스 저널 출판 및 리포지터리 운영, 거버넌스체제 구축 및 오픈액세스 홍보활동을 통한 연구자들의 참여 유도, 글로벌 공조체제 구축 등이 전략과제로 제시되었다.

Abstract

The purpose of this study is to analyze service quality factors that affect user satisfaction of Open Access Korea(OAK) services and to draw strategic assignments for activating open access activities in Korea through a user satisfaction survey. User satisfaction indexes were developed to measure all aspects of the OAK services. The quality index, satisfaction index, and performance index were identified in this survey. According to the survey findings, the levels of social quality and social satisfaction are relatively high, this shows the positive evaluation and expectation of researchers for OAK services. However, relatively low level is identified in the area of service process quality, and many opinions about OA contents shortage in Korea represent the importance of the national level contents development strategy. Sustainable policy support, publishing of open access journals, management of institutional repository, OA governance system, expansion of researchers' participation, construction of global collaboration system are suggested as major implications to promote open access activities in Korea.

초록보기
초록

본 연구는 키워드 네트워크 분석과 토픽모델링을 활용하여 국내 정보활용교육 연구의 흐름을 살펴보고 향후 정보활용교육의 방향성을 모색하는데 목적이 있다. 이를 위하여 국내 문헌정보학 분야의 학술지에 게재된 정보활용교육과 관련된 논문 306편을 선정하고, 논문의 초록을 대상으로 전처리 과정을 거쳐 전체 키워드 출현 빈도, 시기별 키워드 출현 빈도, 키워드 동시출현 빈도분석을 수행하였다. 이어서 키워드 네트워크 분석을 통해 키워드의 연결중심성과 매개중심성, 위세중심성을 분석하였다. 또한 구조적 토픽모델링 분석을 활용하여 15개의 토픽(교육과정, 정보활용교육 효과, 정보활용교육 내용, 학교도서관 교육, 정보매체활용, 정보활용능력 평가 지표, 도서관 불안, 공공도서관 프로그램, 대학도서관 이용자교육, 건강정보 활용능력, 정보격차, 도서관활용수업 개선, 연구 동향, 정보활용교육 모델, 교사 역할)을 도출하고, 토픽별로 비중의 변화를 확인하기 위해 연도별 토픽 추이를 분석하였다. 이러한 결과를 바탕으로 정보활용교육의 방향성과 후속 연구에 대한 제언을 제시하였다.

Abstract

The purpose of this study is to investigate the flow of domestic information literacy education research using keyword network analysis and topic modeling and to explore the direction of information literacy education in the future. For this reason, 306 academic papers related to information literacy education published in academic journals of the library and information science field in Korea were chosen. And through the preprocessing process for abstracts of the paper, total keyword appearance frequency, keyword appearance frequency by period, and keyword simultaneous occurrence frequency were analyzed. Subsequently, keyword network analysis analyzed the degree centrality, between centrality, and eigenvector centrality of keywords. Using structural topic modeling analysis, 15 topics -curriculum, information literacy effect, contents of information literacy education, school library education, information media literacy, information literacy ability evaluation index, library anxiety, public library program, health information literacy ability, digital divide, library assisted instruction improvement, research trend, information literacy model, and teacher role-were derived. In addition, the trend of topics by year was analyzed to confirm the change in relative weight by topic. Based on these results, the direction of information literacy education and the suggestions for follow-up research were presented.

정보관리학회지