AMALIA LM Eval
Collection
Datasets used to evaluate the AMALIA LLM. Also included in AMALIA-Bench • 38 items • Updated • 1
context stringlengths 17 578 | question stringlengths 3 127 | answerA stringlengths 2 181 | answerB stringlengths 2 166 | answerC stringlengths 2 190 | label stringclasses 3
values |
|---|---|---|---|---|---|
A Cameron decidiu fazer um churrasco e juntou os seus amigos. | Como é que os Outros se sentiriam com isso? | como ir | como ficar em casa | um bom amigo para ter | 1 |
O João precisava de distribuir tarefas para um projeto que se aproximava no trabalho. | O que é que os Outros vão querer fazer a seguir? | discordar com o João | começar a trabalhar | discutir com as atribuições | 2 |
O Remy era um pescador especialista e estava na água com o Kai. O Remy engolou o anzol do Kai. | O que é que o Remy vai querer fazer a seguir? | lançar a linha | meter o barco na água | convidar o Kai para ir no barco | 1 |
Addison deu um abraço ao filho de Skylar quando estavam tristes. | Por que é que Addison fez isso? | melhor | errado | continuar a abraçar o filho | 1 |
A Kai encontrou um à venda online, mas era demasiado caro para ela. | O que é que a Kai precisa de fazer antes disto? | mais barato | abrir o seu portátil | poupar dinheiro | 2 |
O Quinn estava lá em cima na árvore e não queria descer. Dissemos-lhe que íamos jogar um jogo, então o Quinn desceu até nós. | O que é que o Quinn precisa de fazer antes disto? | ignorar os outros | fazer isto por diversão | saltar a corda | 1 |
Bailey encontrou a solução de limpeza de Carson depois de não a ter encontrado sozinho. | O que é que Bailey precisa de fazer antes disso? | dar a Carson a sua solução | devolvê-la a Carson | seguir as instruções para o local | 3 |
A Kendall trabalhou o fim de semana na churrascaria e ganhou muito dinheiro com gorjetas. | O que é que a Kendall vai querer fazer a seguir? | Guardar o dinheiro | ser contratada na churrascaria | Deixar o emprego | 1 |
A Quinn queria ajudar-me a arrumar o meu quarto porque estava tão desarrumado. | O que é que a Quinn vai querer fazer a seguir? | Comer snacks sujos | ajudar um amigo | Recolher a roupa suja | 3 |
A Kendall correu de volta e agradeceu ao Lee por a ter ajudado a encontrar o cão. | Como descreveria a Kendall? | grata | super | incrível | 1 |
Sydney era professora e fazia com que os seus alunos aprendessem bem. | Como descreveria Sydney? | Como alguém que pediu um emprego | Como alguém que leva o ensino a sério | Como um líder | 2 |
A mãe da Sasha desmaiou no meio da festa. A Aubrey levou a mãe da Sasha para o hospital. | O que é que a Aubrey vai querer fazer a seguir? | ajudar a Aubrey a voltar para casa | continuar a festejar sem a mãe | continuar com a mãe | 3 |
Cameron prometeu não contar a ninguém sobre a festa surpresa do Ash. Cameron contou o segredo a alguém. | O que é que o Cameron precisa de fazer antes disto? | contar ao Ash sobre a festa | ir à festa do Ash | contar a alguém sobre a festa | 3 |
O gato deles estava sempre a tentar fugir pela janela, então o Jan colocou um obstáculo no caminho. | Como se sentiria o Jan depois? | com medo de perder o gato | normal | aliviado por ter resolvido o problema | 3 |
Remy piscou os olhos de Quinn porque Quinn estava paralisado depois do acidente de carro. | O que é que Remy precisa de fazer antes disso? | Chorar | mover as pálpebras de Quinn | Deitar-se quieto | 2 |
O Austin viu que alguém tinha deixado a carteira no tejadilho do carro enquanto se afastava, por isso correu ao lado deles para chamar a atenção. | Por que é que o Austin fez isto? | ser simpático | ajudar outra pessoa | treinar para uma maratona | 2 |
Jordan cortou o corpo morto para colher os órgãos. | Como descreveria Jordan? | a fazer o seu trabalho | ambivalente | a matar alguém | 1 |
Ash cavalgou a toda e guardou as suas roupas molhadas para as deixar secar durante algumas horas. | O que é que Ash vai querer fazer a seguir? | preguiçoso | molhar as suas roupas antes disto | orgulhoso | 1 |
Bailey aliviou todos os seus amigos quando anunciou os seus planos de ficar. | Por que é que Bailey fez isto? | queria viver sozinha | queria mostrar a sua dedicação aos seus amigos | queria esquecer-se dos seus amigos | 2 |
A Sydney tinha tanta emoção reprimida que começou a chorar no trabalho. | Como é que a Sydney se sentiria depois? | afetada | como se tivesse libertado a sua tensão | pior | 2 |
Bailey apanhou Taylor de surpresa quando ela apareceu no mesmo cruzeiro. | Como se sentiria Bailey depois? | entusiasmada | deprimida | triste | 1 |
Sydney recebeu um aumento e uma nova promoção. | O que é que a Sydney precisa de fazer antes disso? | ser má no trabalho | fazer um bom trabalho | ser preguiçosa | 2 |
O Quinn finalmente encontrou o seu filhote perdido que fugiu na semana passada. | Como se sentiria o Quinn depois? | entusiasmado | muito entusiasmado | muito aliviado | 3 |
A Skylar estava a sair com a Kendall, por isso conheceu os pais do namorado da Kendall. | O que é que a Skylar vai querer fazer a seguir? | ignorar a Kendall | falar com a Kendall | divertirem-se com a Skylar | 2 |
Remy gostava de guiar e ajudar os seus amigos a resolver os seus problemas. | Como descreveria Remy? | egoísta | fácilmente irritada | uma amiga leal | 3 |
O Remy era atlético e gostava de passar tempo na natureza, por isso o Remy queria fazer caminhadas. | Como se sentiria o Remy depois? | grato pela experiência | enojado com a experiência | náuseas | 1 |
O professor fez uma pergunta à turma e eles pareciam confusos. Aubrey percebeu bem a pergunta e respondeu. | O que é que a Aubrey precisa de fazer antes disto? | pedir uma estrela de ouro | saber a informação | falhar a aula | 2 |
Aubrey conseguiu o que estava a tentar fazer e sentiu-se um sucesso. | O que é que Aubrey vai querer fazer a seguir? | tornar os seus objetivos realidade | ser solicitado a fazer bem | continuar a fazer bem | 3 |
Kendall assustou os cães gritando e acenando com as mãos. | Por que é que Kendall fez isto? | enraiveceu os cães | protegeu os seus filhos | viu os cães | 2 |
O Jan sempre quis um cãozinho, mas decidiu adotar um cão mais velho do canil. | Como descreveria o Jan? | Espírito livre | Extrovertido | Compassivo | 3 |
Addison despediu-se de Carson antes do navio sair do cais. | O que é que Addison vai querer fazer a seguir? | aceno de despedida | saltar do barco | grito para Addison | 1 |
Depois de Sydney cortar as unhas, Sasha decidiu fazer o cabelo e ir a um encontro. | O que é que Sasha vai fazer depois de cortar as unhas? | marcar um encontro para o cabelo | querer servir | fazer o cabelo | 3 |
Cameron voou de avião porque achou que chegaria mais depressa do que de carro. | O que é que Cameron vai querer fazer a seguir? | comprar um bilhete | voltar a entrar no avião | encontrar um hotel | 3 |
O Jan amarrou bem as cordas e deu-lhes um último puxão para garantir que o barco estava seguro. | O que é que o João vai querer fazer a seguir? | Partiu no barco. | Chegar a terra firme. | Amarrou as cordas bem apertadas. | 2 |
O Riley disse ao Taylor que tinham encontrado um cão amarrado num parque. | Como descreveria o Riley? | como o Taylor devia ajudar com o cão | Feliz | Chateado | 3 |
Carson era muito apaixonado por este tópico, por isso reforçou a sua opinião. | Como é que os Outros se sentiriam como resultado? | inspirado por Carson | zangado com Carson | relaxado e aliviado | 1 |
Skylar regressou ao início da noite depois de uma noite e um dia de festa. | Como descreveria Skylar? | uma rapariga de festa | muito tímida | exausta | 1 |
Era tarde e noite e a Bailey estava a dormir sozinha na cama. | Como se sentiria a Bailey depois? | entusiasmada com isso | nervosa e assustada | gosta de estar sozinha | 2 |
O Carson fez muitos amigos quando foram ao clube ontem à noite. | O que é que o Carson vai querer fazer a seguir? | passar tempo com os outros | não falar com ninguém | evitar os outros | 1 |
Tracy protegeu os seus colegas de equipa de lesões quando viu um acidente prestes a acontecer e impediu-o. | Por que é que Tracy fez isto? | fazer uma jogada | prevenir lesões | lesioná-los | 2 |
Quinn estava prestes a morrer quando o médico lhe prestou tratamento profissional. | O que vai acontecer a Quinn? | Acabar por morrer | Melhorar | Estar nervosa | 2 |
Durante a aula do anuário, a Alex tirou uma foto antiga dela e da Quinn, e riscou a cara da Quinn na fotografia. A Quinn viu-a a fazer isso. | Como é que a Quinn se sentiria como resultado? | Como se a Alex sentisse falta de sair com ela | Como se a Alex a tivesse traído | Voltar a ser amigas | 2 |
O cliente achou que a Addison foi rude e fez uma reclamação à gerência. | O que é que a Addison vai querer fazer a seguir? | suportar o abuso | querer que o problema seja resolvido | explicar a situação | 3 |
O Aubrey estava a trabalhar na porta de um concerto, então o Aubrey pediu dinheiro à rapariga que estava a entrar. | O que é que o Aubrey vai querer fazer a seguir? | Com idade suficiente para beber | Pede à rapariga para sair. | Precisava de chegar ao trabalho. | 2 |
O Casey estava com pressa de ver o que estava no envelope, por isso rasgou a carta. | Por que é que o Casey fez isto? | deitar a carta fora | ver se é a carta que ele estava à espera | ler a carta | 3 |
A Tracy estava a ensinar Kendall a dançar, então a Tracy levantou as ancas de Kendall para a posição certa para o próximo movimento. | Como descreveria a Tracy? | uma má professora | esperançosa de que isto não deixe Kendall desconfortável | uma professora paciente | 2 |
Remy deu a Robin a sensação de amor ao fazer sexo com ela na cama. | Como se sentiria Remy depois? | normal | ordinário | com tesão | 3 |
O Robin tinha visto o seu parceiro Alex atuar numa peça de teatro e tinha adorado. | O que é que vai acontecer ao Robin? | ele vai agradecer ao robin | celebrar com o seu parceiro depois | ele vai apreciar o robin | 2 |
Carson e Addison estão a namorar e está a ficar sério de dia para dia. | Como é que Carson se sentiria com isto? | apaixonado | vai dar-lhe um estalo | apaixonado por ela | 1 |
Skylar aplicava os seus desejos a Sasha porque ela era exigente e mandona. | Como é que Sasha se sentiria como resultado? | exigente e mandona | bastante submissa | capaz e controladora | 2 |
O Bailey levou o cão para o parque para cães e deixou-o correr. | Como descreveria o Bailey? | não tem um animal de estimação | um dono de animal de estimação amoroso | não quer um animal de estimação saudável | 2 |
A Sasha adorava animais e estava a trazê-los para um novo santuário onde estivessem seguros. | Como se sentiria a Sasha depois? | triste | deprimida | realizada | 3 |
O Lee estava a gastar demasiado dinheiro com reparações, por isso queria poupar o máximo possível fazendo compras. | O que é que o Lee precisa de fazer antes disto? | encontrar o melhor preço para as reparações | comprar peças de reposição caras para qualidade | usar a próxima oficina de reparações apesar do preço | 1 |
A Kendall estava com fome do cachorro-quente grande, então ela deu mais uma dentada. | Por que é que a Kendall fez isto? | Engolir a comida dela. | contente-se | Mastigar a comida dela. | 2 |
Taylor salvou os dentes de outras pessoas da cárie, fornecendo um bom creme dental. | O que é que os Outros vão querer fazer a seguir? | ensinar-lhes a usar fio dental | ensinar-lhes a usar bochechos | agradecer ao Taylor | 3 |
As caixas estavam na porta, então o Alex moveu as caixas da porta. | Por que é que o Alex fez isto? | para que não ficassem na porta | para ver as caixas | para que não fossem roubadas | 1 |
Austin lutou por Quinn e ela ficou muito feliz por o conhecer. | Como se sentiria Austin depois? | vored | lame | caring | 3 |
O Kai dava aulas de inglês a estudantes numa faculdade. | Como descreveria o Kai? | capaz | Como alguém que sabe sobre inglês | Como alguém que podia ensinar | 3 |
O Jordan comeu toda a comida da Sydney e teve de ir buscar mais porque a Sydney estava com fome. | Como é que o Jordan se sentiria depois? | rude | preguiçoso | assustado | 1 |
Addison não fazia ideia do que fazer depois de ouvir a notícia, então Addison quis ir pedir conselhos ao Ash. | Como descreveria Addison? | Decidida | Assustada | melhor | 2 |
Ash queria ver o Carson outra vez depois de terem passado um fim de semana a jogar. | O que é que o Ash vai querer fazer a seguir? | adorar jogos | evitar o Carson | fazer planos com o Carson | 3 |
O Carson tirou o dia de folga depois de se sentir enjoado e vomitar. | Por que é que o Carson fez isto? | sentiu-se enjoado | sentiu-se ótimo | sentiu-se bem | 1 |
QUiin procurou durante horas e, finalmente, encontrou o artigo. | Como descreveria Quinn? | sortudo | Aliviado, ele precisa mesmo do dinheiro | fácilmente dissuadido | 1 |
Addison analisou o plano de negócios de Bailey e ajudou-a a maximizar os seus lucros. | Como descreveria Addison? | bom em negócios | bom em atendimento ao cliente | bom em inglês | 1 |
Ash estava preocupado com o que ia acontecer, mas, segundo Ash, correu tudo bem. | O que é que Ash precisa de fazer antes disto? | Relaxar para reduzir o stress | Fazer um bom trabalho | Evitar o evento | 2 |
O Jesse perdeu todos os seus tostões a apostar em desporto. | Como descreveria o Jesse? | um assumidor de riscos | em pânico | atrapalhado pela culpa | 1 |
Taylor usou um gráfico para ajudar a explicar a lógica e o design complexos do sistema aos colegas de equipa. | O que é que os Outros vão querer fazer a seguir? | Fazer perguntas | Vingar-se | Taylor, que tem explicado o sistema aos colegas de equipa. | 1 |
Kendall queria perguntar à Jan se ela já tinha arranjado um encontro para o baile. | O que é que a Kendall quer fazer a seguir? | falar com a Jan | limpar a casa dela | fazer uma pizza | 1 |
A Sydney jogou basquetebol com os amigos depois da escola num dia de sol. | O que é que Sydney precisa de fazer antes disso? | Tira uma soneca antes disto. | Tenha uma bola de basquete antes disto. | Vai para casa antes disto. | 2 |
No bar depois do trabalho, enquanto bebiam, o Carson zangou-se com o Taylor. | Como descreveria o Carson? | inspirado mas desafiante de conhecer | como se o Carson fosse mau | mal-humorado e difícil de conviver | 3 |
O Riley estava a trabalhar num projeto e o Jan fez o objeto do Riley. | Como se sentiria o Jan depois? | trabalharam arduamente | contribuíram para o projeto | agradecidos pela assistência | 2 |
Já estava a ficar tarde e a Sasha preparou-se para ir à festa. | O que é que a Sasha vai querer fazer a seguir? | chegar a tempo à festa | garantir que foram à festa | socializar | 1 |
A Sasha queria perder algum peso antes da competição de claque. | O que é que a Sasha vai querer fazer a seguir? | fazer dieta | treinar muito | ter um bom aspeto no uniforme da competição | 1 |
Quando passar no teste depois de estudar a noite toda sem dormir. | O que é que o Quinn precisa de fazer antes disso? | Beber um café | Ir dormir | Deitar-se na cama | 1 |
A Remy publicou uma foto nas redes sociais e esperava obter muitas votações positivas. | Por que é que a Remy fez isto? | irritar as pessoas | ser apreciada pelos outros | receber críticas construtivas | 2 |
Para se lembrar dos bons tempos passados. Cameron sempre colocava fotos. | Por que é que Cameron fez isto? | lembrar-se de como os anos tinham passado | passar tempo com amigos | tirar mais fotos | 1 |
A Jordan tinha um punhado de bilhetes de lotaria e deu a Taylor o bilhete certo para ganhar o jackpot. | O que vai acontecer a Taylor? | Ter mais dinheiro do que antes | Invidiar que deram o bilhete a Taylor | Comprar mais bilhetes de lotaria da próxima vez | 1 |
Depois de saber que Cameron estava a tentar ter um caso com o seu marido, Quinn tentou matar Cameron. | Por que é que Quinn fez isto? | punir Cameron pelo mau trabalho | ir à polícia | vingar-se de Cameron pela infidelidade | 3 |
O Quinn era cozinheiro numa escola. O Quinn fazia sandes para os outros. | O que é que os Outros vão querer fazer a seguir? | comer as sandes | grelhar as sandes | cozinhar as sandes | 1 |
Como era o professor e precisava de esclarecer as coisas, Kendall provou cada ponto. | O que é que Kendall vai querer fazer a seguir? | evitar confusão | dificultar as coisas | garantir que os alunos compreendem | 3 |
O Remy recebeu um novo cãozinho hoje e ensinou-o a sentar-se. | Como se sentiria o Remy depois? | feliz | triste | Um dono de animal de estimação que se preocupa com o seu cão | 3 |
O Quinn estava com sede e bebeu muito leite com as bolachas. | Como é que o Quinn se sentiria com leite e bolachas? | como fazer saltos com os pés | náuseas e enjoado | como ir nadar | 2 |
O Jordan disse ao namorado da Riley que sim a ir ao cinema com eles como um casal. | Como se sentiria o Jordan depois? | uma pessoa que vai ver um filme | assustado | entusiasmado | 3 |
O Carson queria ir para casa mas o carro deles tinha pouco ar nos pneus. | O que é que o Carson vai querer fazer a seguir? | precisam de colocar mais ar no carro | colocar ar nos pneus | assegurar que os pneus estão com a pressão errada | 2 |
A Kendall gasta dinheiro de forma imprudente, por isso a Robin faz com que ela deposite o dinheiro deles no banco. | Como descreveria a Robin? | irresponsável com o dinheiro | boa a controlar o dinheiro | a poupar para uma compra | 2 |
Riley chegou ao ponto de subir a colina onde Kendall os podia ver por cima da elevação. | O que é que Kendall vai querer fazer a seguir? | Queria ser notado | Para que Riley continue | Queria ser visto | 2 |
Skylar tornou-se milionário através de muito trabalho e usou o dinheiro com sabedoria. | O que é que Skylar precisa de fazer antes disto? | de trabalhar muito | comprar uma casa à mãe | pagar os seus empréstimos estudantis | 1 |
Riley estava a saltar para cima e para baixo com as mãos no ar. Austin segurava os braços de Riley para impedi-la de se mexer. | O que vai acontecer ao Austin agora? | ser repreendido | ser libertado | receber um olhar carinhoso | 1 |
Skylar fez as pazes com o seu amigo depois da discussão. | Como se sentiria Skylar depois? | bastante teimoso | muito perdoador | disposto a admitir que está errado | 2 |
O Quinn bebeu demasiado na outra noite. Estavam a começar a ter um problema. | O que é que o Quinn vai querer fazer a seguir? | deixar de beber | divertirem-se | sair e festejar | 1 |
Aubrey enviou mensagens de texto para lembrar o grupo da reunião desta tarde. | O que é que Aubrey precisa de fazer antes disso? | obter os endereços de e-mail de todos | saber a hora da reunião | ter a certeza de que ninguém se atrasou | 2 |
Sydney reduziu a dívida nacional a um nível controlável, estimulando a economia e reduzindo os impostos. | O que é que Sydney precisa de fazer antes disso? | aumentar os impostos | ajudar a moral dos consumidores | tirar dinheiro aos ricos | 2 |
Austin esticou os braços para alcançar o objeto no fim da mesa. | Como se sentiria Austin depois? | muito chateado | no controlo | normal | 3 |
Ash compreendeu outra ideia. Essa ideia era melhor do que a original. | Como descreveria Ash? | incompetente no seu trabalho | uma pessoa estúpida | competente no seu trabalho | 3 |
O Alex queria que o cabelo deles ficasse azul-claro, mas precisava de remover a cor natural primeiro. | O que é que o Alex vai querer fazer a seguir? | rapar a cabeça | lavar o descolorante | fazer com que o azul apareça melhor | 2 |
Taylor levou o pobre cão que encontrou na estrada ao veterinário. | O que é que o veterinário vai querer fazer a seguir? | pronunciar o cão morto | envolver o cão num toalha | verificar se o cão está bem | 3 |
O Jesse estava aborrecido, então viu se podia ajudar a pessoa. | Como é que os Outros se sentiriam como resultado? | como gratos | preocupados e gentis | como ingratos | 1 |
Addison aliviou os seus medos imaginando o pior que poderia acontecer. Não era assim tão mau. | O que é que Addison vai querer fazer a seguir? | ter um coração forte | seguir em frente com a vida | ser aterrador | 2 |
Aubrey fez a cama do Kendall porque o Kendall não a fez. | Como descreveria o Aubrey? | incapaz | responsável | culpado | 2 |
A Skylar tinha uma prima que se tinha viciado em metanfetaminas. Ela estava preocupada que ela voltasse aos velhos hábitos depois de ter passado pela reabilitação com sucesso. | Como descreveria a Skylar? | Alguém que não se importa com a sua família. | Uma pessoa que se preocupa com a sua prima. | Infeliz com o bem-estar do seu primo | 2 |
Portuguese machine translation of Social IQA, a benchmark for social commonsense reasoning about everyday situations.
Translated using a Finetuned GemmaX2-9B for pt-PT.
Original Dataset: https://huggingface.co/datasets/social_i_qa
Note: This dataset is machine translated and may contain translation errors or artifacts.
This dataset is provided as part of the AMALIA project and is included in AMALIA-Bench, a comprehensive benchmark suite for evaluating large language models on European Portuguese.
If you use this dataset or AMALIA in your work, please cite:
@inproceedings{simplicio-etal-2026-amalia,
title = "{AMALIA}: A Fully Open Large Language Model for {E}uropean {P}ortuguese",
author = "Simpl{{\'i}}cio, Afonso and Vinagre, Gon{{\c{{c}}}}alo and Ramos, Miguel Moura and Tavares, Diogo and Ferreira, Rafael and Attanasio, Giuseppe and Alves, Duarte M. and Calvo, In{{\^e}}s and Vieira, In{{\^e}}s and Guerra, Rui and Furtado, James and Canaverde, Beatriz and Paulo, Iago and Ramos, Vasco and Gl{{\'o}}ria-Silva, Diogo and Faria, Miguel and Treviso, Marcos and Gomes, Daniel and Gomes, Pedro and Semedo, David and Martins, Andr{{\'e}} and Magalh{{\~a}}es, Jo{{\~a}}o",
booktitle = "Proceedings of the 17th International Conference on Computational Processing of {{P}}ortuguese ({{PROPOR}} 2026) - Vol. 1",
month = apr,
year = "2026",
address = "Salvador, Brazil",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2026.propor-1.38/",
pages = "380--391",
isbn = "979-8-89176-387-6"
}
@misc{simplicio2026amaliatechnicalreportfully,
title = {AMALIA Technical Report: A Fully Open Source Large Language Model for European Portuguese},
author = {Afonso Simplício and Gonçalo Vinagre and Miguel Moura Ramos and Diogo Tavares and Rafael Ferreira and Giuseppe Attanasio and Duarte M. Alves and Inês Calvo and Inês Vieira and Rui Guerra and James Furtado and Beatriz Canaverde and Iago Paulo and Vasco Ramos and Diogo Glória-Silva and Miguel Faria and Marcos Treviso and Daniel Gomes and Pedro Gomes and David Semedo and André Martins and João Magalhães},
year = {2026},
eprint = {2603.26511},
archivePrefix = {arXiv},
primaryClass = {cs.CL},
url = {https://arxiv.org/abs/2603.26511}
}