Θέμα 7: Ανάλυση και Ταξινόμηση Βιβλιογραφικών Αναφορών σε Επιστημονικές Δημοσιεύσεις με Μεγάλα Γλωσσικά Μοντέλα και Σημασιολογικούς Γράφους

Επιβλέπων: Νικόλαος Αμπαζής

Συνοπτική Περιγραφή Έρευνας και Απαιτήσεων: Το προτεινόμενο ερευνητικό θέμα εντάσσεται στην περιοχή της ανάκτησης πληροφορίας από επιστημονικές δημοσιεύσεις, της ανάλυσης βιβλιογραφικών αναφορών και της αξιοποίησης Μεγάλων Γλωσσικών Μοντέλων (Large Language Models - LLMs) και προεκπαιδευμένων γλωσσικών μοντέλων για την κατανόηση των σχέσεων μεταξύ επιστημονικών εργασιών. Η συνεχής αύξηση του όγκου της επιστημονικής βιβλιογραφίας καθιστά όλο και δυσκολότερη την αναγνώριση των ουσιαστικών σχέσεων μεταξύ άρθρων, μεθοδολογιών, αποτελεσμάτων και ερευνητικών κατευθύνσεων. Οι βιβλιογραφικές αναφορές αποτελούν βασικό μηχανισμό σύνδεσης της επιστημονικής γνώσης, όμως η απλή ύπαρξη μιας αναφοράς δεν αρκεί για να κατανοηθεί ο ρόλος της. Μια αναφορά μπορεί να χρησιμοποιείται ως θεωρητικό υπόβαθρο, ως μεθοδολογική βάση, ως σύγκριση, ως επέκταση προηγούμενης εργασίας, ως τεκμηρίωση αποτελεσμάτων ή ακόμη και ως αντικείμενο κριτικής.

Πιο αναλυτικά, ο/η φοιτητής/τρια θα μελετήσει μεθόδους αναπαράστασης επιστημονικών άρθρων και αποσπασμάτων μέσω embeddings, τεχνικές εξαγωγής και επεξεργασίας βιβλιογραφικών αναφορών, καθώς και μεθόδους ταξινόμησης του ρόλου των αναφορών με χρήση προεκπαιδευμένων γλωσσικών μοντέλων ή LLMs. Θα εξεταστούν κατηγορίες όπως υπόβαθρο, μεθοδολογία, σύγκριση, επέκταση, χρήση δεδομένων ή αποτελεσμάτων, υποστήριξη, αντίθεση ή γενική θεματική συνάφεια. Ιδιαίτερη έμφαση θα δοθεί στη διάκριση μεταξύ ρητών βιβλιογραφικών σχέσεων και σημασιολογικών σχέσεων που προκύπτουν από την ομοιότητα περιεχομένου, αλλά δεν εμφανίζονται απαραίτητα στη βιβλιογραφία ενός άρθρου.

Στο πρακτικό μέρος της εργασίας θα αναπτυχθεί πρωτότυπο σύστημα ή πειραματική διάταξη για την επεξεργασία συλλογής επιστημονικών δημοσιεύσεων. Η διαδικασία μπορεί να περιλαμβάνει συλλογή ή επιλογή corpus, εξαγωγή μεταδεδομένων και βιβλιογραφικών αναφορών, εντοπισμό citation contexts μέσα στο κείμενο, δημιουργία διανυσματικών αναπαραστάσεων, ταξινόμηση του τύπου ή σκοπού των αναφορών και κατασκευή σημασιολογικού γράφου ή γράφου βιβλιογραφικών σχέσεων με ετικέτες στις ακμές. Στον γράφο αυτό, μια σχέση δεν θα δηλώνει μόνο ότι δύο άρθρα είναι συνδεδεμένα, αλλά θα μπορεί να περιγράφει αν η σύνδεση είναι μεθοδολογική, θεωρητική, συγκριτική, υποστηρικτική ή απλώς σημασιολογική.

Η αξιολόγηση της προσέγγισης θα πραγματοποιηθεί με ποσοτικά και ποιοτικά κριτήρια. Στο επίπεδο ταξινόμησης μπορούν να χρησιμοποιηθούν μετρικές όπως accuracy, precision, recall και F1-score, εφόσον υπάρχει διαθέσιμο σύνολο δεδομένων με ετικέτες ή δημιουργηθεί μικρό σύνολο χειροκίνητης αξιολόγησης. Στο επίπεδο ανάκτησης πληροφορίας μπορούν να εξεταστούν μετρικές συνάφειας και κάλυψης, όπως κατά πόσο οι προτεινόμενες εργασίες είναι πράγματι χρήσιμες για τη χαρτογράφηση μιας ερευνητικής περιοχής. Στο επίπεδο γράφου μπορούν να μελετηθούν μέτρα κεντρικότητας, πυκνότητας, κοινοτήτων, τύπων ακμών και διαφορών μεταξύ απλού citation graph, semantic similarity graph και typed semantic-citation graph. Ένα βασικό ερευνητικό ερώτημα είναι αν η προσθήκη σημασιολογικών τύπων στις βιβλιογραφικές σχέσεις οδηγεί σε πιο χρήσιμη και ερμηνεύσιμη αναπαράσταση της επιστημονικής γνώσης. Για παράδειγμα, δύο άρθρα μπορεί να είναι κοντά σημασιολογικά, αλλά να μη συνδέονται με citation. Αντίστροφα, ένα άρθρο μπορεί να αναφέρει ένα άλλο μόνο ως γενικό υπόβαθρο και όχι επειδή αξιοποιεί ουσιαστικά τη μεθοδολογία του. Η διάκριση αυτή μπορεί να είναι σημαντική για ερευνητές που θέλουν να εντοπίσουν πραγματικές μεθοδολογικές συγγένειες, εργασίες που επεκτείνουν μια ιδέα, ή κεντρικά άρθρα που λειτουργούν ως γέφυρες μεταξύ θεματικών περιοχών. Ο/Η μεταπτυχιακός/ή φοιτητής/τρια που θα επιλεγεί θα πρέπει να έχει καλή γνώση προγραμματισμού και βασικές γνώσεις μηχανικής μάθησης, επεξεργασίας φυσικής γλώσσας και ανάλυσης δεδομένων. Επιθυμητή είναι η εξοικείωση με Python, βιβλιοθήκες επεξεργασίας κειμένου, embeddings, προεκπαιδευμένα γλωσσικά μοντέλα, καθώς και βασικές έννοιες γράφων και αξιολόγησης ταξινομητών ή συστημάτων ανάκτησης πληροφορίας. Η εργασία είναι κατάλληλη για φοιτητή/τρια που ενδιαφέρεται να συνδυάσει τεχνικές τεχνητής νοημοσύνης με ανάλυση επιστημονικής γνώσης και βιβλιομετρικών δεδομένων.

Στο πρώτο στάδιο της εργασίας θα πραγματοποιηθεί βιβλιογραφική ανασκόπηση στις περιοχές της σημασιολογικής ανάκτησης πληροφορίας, των semantic similarity graphs, της ανάλυσης βιβλιογραφικών αναφορών, του citation function classification και της χρήσης LLMs ή προεκπαιδευμένων γλωσσικών μοντέλων σε επιστημονικά κείμενα. Στη συνέχεια θα επιλεγεί κατάλληλο corpus και θα σχεδιαστεί η αρχιτεκτονική της πειραματικής διάταξης. Στο δεύτερο στάδιο θα υλοποιηθεί το βασικό σύστημα επεξεργασίας, ταξινόμησης και κατασκευής γράφου, ενώ στο τρίτο στάδιο θα ολοκληρωθεί η αξιολόγηση, η ερμηνεία των αποτελεσμάτων και η συγγραφή της μεταπτυχιακής εργασίας. Ως το τέλος του 1ου εξαμήνου αναμένεται να έχει ολοκληρωθεί η βιβλιογραφική ανασκόπηση, η επιλογή ή προετοιμασία του corpus και ο αρχικός σχεδιασμός της μεθοδολογίας. Στο τέλος του 2ου εξαμήνου αναμένεται να έχει υλοποιηθεί το βασικό πρωτότυπο και να έχουν πραγματοποιηθεί τα κύρια πειράματα ταξινόμησης, ανάκτησης και κατασκευής γράφων. Κατά το 3ο εξάμηνο θα ολοκληρωθεί η συγκριτική αξιολόγηση, η ανάλυση των αποτελεσμάτων, η συγγραφή της εργασίας και η προετοιμασία της τελικής παρουσίασης. Με την ολοκλήρωση της εργασίας αναμένεται να έχει παραχθεί ένα λειτουργικό πρωτότυπο σύστημα, μια συστηματική πειραματική αξιολόγηση και ένα σύνολο συμπερασμάτων για το πώς μπορούν να συνδυαστούν LLMs, citation context analysis και σημασιολογικοί γράφοι για την καλύτερη κατανόηση της επιστημονικής βιβλιογραφίας. Βασική επιδίωξη είναι τα αποτελέσματα να είναι αξιοποιήσιμα για συγγραφή επιστημονικής εργασίας σε συνέδριο ή περιοδικό σχετικό με ανάκτηση πληροφορίας, μηχανική μάθηση, βιβλιομετρία ή επιστημονική ανάλυση κειμένου.

Ο/Η φοιτητής/τρια θα πραγματοποιεί την έρευνά του και παράλληλα θα έχει τη δυνατότητα να παρακολουθεί ένα μάθημα ανά εξάμηνο κατόπιν εισήγησης της τριμελούς επιτροπής. Τα προτεινόμενα μαθήματα είναι: