Polemizó Astarloa con las ideas del citado Joaquín Traggia Uribarri, Juan Antonio Llorente y José Antonio Conde sobre el origen de la lengua vasca, para lo que publicó en Madrid (1803) su obra: ""Apología de la lengua Bascongada o ensayo crítico-filosófico de su perfección y antigüedad sobre todas las que se conocen, en respuesta a los reparos propuestos en el «Diccionario geográfico histórico de España"".