Geraldine/hal_univcotedazur_shs_articles_2013-2023

The hal_data.csv dataset comes from a request on the HAL API (the French national open archive) limited to the UNIV-COTEDAZUR portal instance. The request collects the bibliographic records of the SHS articles with abstract published between 2013 and 2023

The parameters passed in the url request are :

• q=docType_s:ART
• fq=abstract_s:[%22%22%20TO%20*]
• fq=domain_s:shs
• fq=publicationDateY_i:[2013%20TO%202023]
• fl=halId_s,doiId_s,uri_s,title_s,subTitle_s,authFullName_s,producedDate_s,journalTitle_s,journalPublisher_s,abstract_s,fr_keyword_s,openAccess_bool,submitType_s

The combined column contains a concatenation of the textual contents of these three columns : title_s, subTitle_s and abstract_s. The embeddings corpus hal_embeddings.pkl stores the embeddings of the "combined" column values converted in vectors with the sentence-transformers/all-MiniLM-L6-v2 embeddings model.

Furthermore, all the dataset (except the "abstract" and "combined" columns) has been converted in a Knowledge Graph and stored in a Neo4j Graph store which persists texts and embeddings. The text embeddings model used is nomic-embed-text-v1.5.

Metadata extraction

url = ""https://api.archives-ouvertes.fr/search/UNIV-COTEDAZUR/?q=docType_s:ART&fq=abstract_s:[%22%22%20TO%20*]&fq=domain_s:*shs*&fq=publicationDateY_i:[2013%20TO%202023]&fl=halId_s,doiId_s,uri_s,title_s,subTitle_s,authFullName_s,producedDate_s,journalTitle_s,journalPublisher_s,abstract_s,fr_keyword_s,openAccess_bool,submitType_s"

# Get the total number of records
url_for_total_count = f"{url}&wt=json&rows=0"
response = requests.request("GET", url_for_total_count).text
data = json.loads(response)
total_count = data["response"]["numFound"]
print(total_cout)
# return 3613

# Loop over the records and get metadata
step = 500
df = []
for i in range(1, int(total_count), int(step)):
  url = f"{url}&rows={step}&start={i}&wt=csv"
  df = pd.read_csv(url, encoding="utf-8")
  df.append(df)
df = pd.concat(appended_data)

# dedup
df = appended_data.drop_duplicates(subset=['halId_s'])

# clean data a little
df["producedDate_s"] = df["producedDate_s"].apply(lambda x: str(x)[0:4])
df = df.replace(np.nan, '')

df.shape
# returns 2760

# New column of concatenated textuel data
df["combined"] = df.title_s + ". " + df.subTitle_s + ". " +df.abstract_s

# Save
df.to_csv("hal_data.csv", index=False, encoding="utf-8")

Create text embeddings with sentence-transformers library (CPU)

from sentence_transformers import SentenceTransformer, util
import pickle

model_id = "sentence-transformers/all-MiniLM-L6-v2"
embedder = SentenceTransformer(model_id)

# Test on simple piece of text
embedder.encode(["The Ecology of Fear and Climate"],convert_to_tensor=True)

# Create corpus
corpus_embeddings = embedder.encode(df.combined.to_list(), show_progress_bar=True)

# Save
with open('hal_embeddings.pkl', "wb") as fOut:
  pickle.dump(corpus_embeddings, fOut)

# Reload
file = open("hal_embeddings.pkl",'rb')
corpus_embeddings = pickle.load(file)

Similarity search example on text embeddings

# Reload data
df = pd.read_csv("hal_data.csv", sep=",", encoding="utf-8")
file = open("hal_embeddings.pkl",'rb')
corpus_embeddings = pickle.load(file)

# Embeddings search
prompt = "Migrations par la méditerranée"
prompt_embedding = embedder.encode(prompt,convert_to_tensor=True)
hits = util.semantic_search(prompt_embedding, corpus_embeddings, top_k=10)
#hits = pd.DataFrame(hits[0], columns=['corpus_id', 'score'])

hits
# returns
[[{'corpus_id': 2151, 'score': 0.5979416966438293},
  {'corpus_id': 2064, 'score': 0.5763238072395325},
  {'corpus_id': 69, 'score': 0.5686249136924744},
  {'corpus_id': 1960, 'score': 0.5541684627532959},
  {'corpus_id': 1040, 'score': 0.550809383392334},
  {'corpus_id': 1577, 'score': 0.5496243238449097},
  {'corpus_id': 37, 'score': 0.5494439601898193},
  {'corpus_id': 2247, 'score': 0.544265627861023},
  {'corpus_id': 1638, 'score': 0.5377249717712402},
  {'corpus_id': 965, 'score': 0.5279545187950134}]]

# Sorting records
article_data_list = []
data_list = []
for hit in hits[0]:
  hit_id = hit['corpus_id']
  article_data = df.iloc[hit_id]
  #article_data_list.append(article_data["combined"])
  article_data_list.append({"title": article_data["title_s"],
                            "subtitle": article_data["subTitle_s"],
                                  "date": article_data["producedDate_s"],
                                  "journal" : article_data["journalTitle_s"],
                                  "pub": article_data["journalPublisher_s"],
                                  "abstract": article_data["abstract_s"]
                                  })

article_data_list
# returns
[{'title': 'Les représentations politiques méditerranéennes selon Margaret Mazzantini\\, Francesca Melandri et Louis-Philippe Dalembert',
  'subtitle': '',
  'date': '2023-09-15',
  'journal': 'Loxias',
  'pub': "CTEL (Centre transdisciplinaire d'épistémologie de la littérature) [2003-2011] - CTELA (Centre transdisciplinaire d'épistémologie de la littérature et des arts vivants) [2012-....]",
  'abstract': 'Tantôt dessinés en filigrane\\, tantôt soulignés\\, les personnages d’hommes politiques sont omniprésents dans le projet scriptural de la littérature qui traite des migrations contemporaines. Dans la littérature liée à la Méditerranée du début du XXIe siècle\\, les écrivains prennent souvent une posture critique vis-à-vis des personnages politiques. En français le Haïtien Louis-Philippe Dalembert dans Mur Méditerranée (2019) et en italien Margaret Mazzantini dans La Mer\\, le matin (2011) et Francesca Melandri dans Tous\\, sauf moi (2017) dénoncent en particulier une diplomatie mortifère dans laquelle les migrants deviennent une arme de négociation. Dans ce corpus\\, Mouammar Kadhafi\\, homme politique sulfureux\\, est peint de manière négative\\, parfois en tant que chef suprême des passeurs entre la Libye et l’Italie. Des hommes d’État occidentaux n’ont pas non plus un traitement de faveur au regard de leur implication dans les négociations entre l’Union européenne et Kadhafi dans ce qui est communément présenté comme une « crise migratoire ». Quels sont les enjeux d’une telle représentation négative des hommes politiques dans notre corpus ? A-t-on affaire à des romans à thèse ? Et comment l’écrivain s’empare-t-il du politique dans la littérature exilique pour intervenir dans un débat sociétal brûlant ?,Sometimes drawn implicitly\\, sometimes underlined\\, the characters of politicians are omnipresent in the scriptural project of migrant literature. In literature related to the Mediterranean at the beginning of the 21st century\\, writers often take a critical stance concerning the political figures. In French the Haitian Louis-Philippe Dalembert in “Mur Méditerranée” (2019) and in Italian Margaret Mazzantini in “Mare al mattino” (2011) and Francesca Melandri in “Sangue giusto” (2017) denounce this deadly diplomacy in which migrants become a weapon of negotiation. Muammar Gaddafi\\, a sulphurous politician\\, is portrayed in a negative way\\, sometimes as the supreme leader of the smugglers between Libya and Italy. Western statesmen also do not get preferential treatment about their involvement in the negotiations between the European Union and Gaddafi in what is commonly presented as a “migration crisis”. What are the issues of such a negative representation of politicians in our corpus? Are we dealing with “Romans à these”? And how does the writer seize politics in exilic literature to intervene in a burning societal debate?'},
 {'title': 'Migrations et révolution en Tunisie',
  'subtitle': '',
  'date': '2013',
  'journal': 'revue tunisienne des sciences sociales (RTSS)',
  'pub': '',
  'abstract': 'L’article revient sur les arrivées dites massives de Tunisiens sur l’île italienne de Lampedusa au premier trimestre 2011 en les replaçant dans l’évolution des migrations méditerranéennes de la dernière décennie. Une première partie présente le contexte des migrations illégales par voie maritime et les politiques migratoires développées pour s’y opposer depuis les années quatre-vingt. La deuxième partie présente\\, à partir d’enquêtes de terrain et de données statistiques\\, les conditions dans lesquelles se sont déroulés les mouvements de l’après janvier 2011 et leur traitement par les Etats concernés. En conclusion\\, on interroge l’avenir de l’espace de circulation euro-méditerranéen dans la nouvelle conjoncture géopolitique en la comparant à la situation de l’Europe au lendemain de la chute du mur de Berlin.'},
 {'title': 'Introduction',
  'subtitle': '',
  'date': '2018',
  'journal': 'Cahiers du CEMCA.Série Anthropologie',
  'pub': '',
  'abstract': "Ce cahier est le résultat d'une collaboration entre des équipes de chercheurs venant non seulement de plusieurs disciplines et institutions\\, mais aussi de traditions scientifiques et de régions culturelles et géographiques différentes. Depuis novembre 2014\\, plusieurs institutions mexicaine\\, nigérienne et françaises ont soutenu ces chercheurs : El Colegio de la Frontera Norte (El Colef) au Mexique\\, le Groupe d'Etudes et de Recherches Migrations Internationales\\, Espaces Sociétés (germes) au Niger\\, le Centre d'Etudes Mexicaines et Centraméricaines (cemca) au Mexique et l'Unité de Recherche Migrations et Société (urmis) en France. Depuis cette même date\\, les chercheurs ont échangé leurs expériences au cours de plusieurs rencontres dont une semaine entière d'atelier\\, tables-rondes\\, visite de terrain et festival de cinéma à El Colef\\, à Tijuana\\, en juin 2016. Nous présentons ici des réflexions qui ont été produites lors de cette rencontre intitulée Les migrants\\, les frontières et la ville : Afrique-Amérique. Les textes réunis questionnent des situations migratoires dans deux espaces géographiques très distants : le Mexique et l'Amérique centrale d'un côté ; le Sahel et le Maghreb de l'autre. Il ne s'agit pas de comparer systématiquement les deux régions\\, mais de décrire les pratiques et les processus qui s'y retrouvent\\, tels que l'internationalisation des politiques migratoires\\, l'externalisation des frontières et leurs impacts sur les flux de personnes. Nous proposons également d'analyser les expériences ainsi que les représentations religieuses et imaginaires des migrants en mobilité. Les deux espaces ont en commun d'être traversés par des flux de migrants affectés par des processus de plus en plus rigides de contrôle frontalier et migratoire. L'augmentation continue des obstacles à la mobilité des personnes a conduit à de nouvelles formes de migration ou d'installation précaire de migrants bloqués. De retour dans leur pays d'origine ou dans celui de leurs parents\\, bloqués aux frontières\\, réfugiés\\, expulsés\\, les migrants et demandeurs d'asile posent de nouveaux défis aux organisations de la société civile\\, aux politiques publiques et aux chercheurs."},
....
]

KnowledgeGraphIndex

The KnowledgeGraphIndex is persisted in the /index_storage folder, and can be easely reloaded in a Neo4j database and/or reloaded to be queried by a LlamaIndex KnowledgeGraphQueryEngine.

import pandas as pd
from datasets import load_dataset
from llama_index.core import SimpleDirectoryReader, KnowledgeGraphIndex, StorageContext, load_index_from_storage
from llama_index.graph_stores.neo4j import Neo4jGraphStore
from llama_index.vector_stores.neo4jvector import Neo4jVectorStore
from llama_index.embeddings.nomic import NomicEmbedding
from llama_index.llms.groq import Groq
from llama_index.core import Settings
import nest_asyncio

# Load the dataset
hal_data = load_dataset("Geraldine/hal_univcotedazur_shs_articles_2013-2023", data_files="hal_data.csv")
df = pd.DataFrame(hal_data["train"])
df = df.drop(columns=["abstract_s","combined"])
df.to_csv("hal_data.csv", index=False, encoding="utf-8")

# Document reader
reader = SimpleDirectoryReader(input_files=["./hal_data.csv"])
documents = reader.load_data()

# Embeddings & LLM
NOMIC_API_KEY = "..."
GROQ_API_KEY = "..."

nest_asyncio.apply()

embed_model = NomicEmbedding(
    api_key=NOMIC_API_KEY,
    dimensionality=768,
    model_name="nomic-embed-text-v1.5",
)

llm = Groq(model="mixtral-8x7b-32768", api_key=GROQ_API_KEY)

Settings.llm = llm
Settings.embed_model = embed_model
Settings.chunk_size = 512

# Neo4j Graph store & KnowledgeGraph index creation
graph_store = Neo4jGraphStore(
    username="...",
    password="...",
    url="...",
)

storage_context = StorageContext.from_defaults(graph_store=graph_store)

index = KnowledgeGraphIndex.from_documents(
    documents,
    storage_context=storage_context,
    include_embeddings=True,
    max_triplets_per_chunk=2,
)

# Persist index
index.storage_context.persist("./index_storage")

# Reload index
storage_context = StorageContext.from_defaults(persist_dir="./index_storage")
index = load_index_from_storage(storage_context)