[ca] Durant els darrers anys, el camp de la intel·ligència artificial i l'aprenentatge automàtic ha experimentat un creixement revolucionari gràcies als avenços en àrees com l'aprenentatge profund, i que han obert les portes a noves solucions, eines i tecnologies que fins ara eren impossibles d'implementar. Algunes d'aquestes aplicacions les trobem ja instaurades en el nostre dia a dia en àmbits com el reconeixement facial, la detecció d'anomalies en temàtiques molt diverses, la predicció borsària o meteorològica, i l'optimització de processos, entre molts d'altres. Actualment, però, la gran majoria estan encara en desenvolupament o es troben a l'espera de resoldre problemes relacionats amb la seguretat, la legalitat i fins i tot amb l'ètica dels agents intel·ligents implicats. S'estan plantejant situacions i conseqüències derivades de l'ús d'aquest tipus de sistemes que mai abans s'havien hagut de considerar. La quantitat de recursos econòmics i professionals que s'estan destinant a aquest camp és enorme, atès el seu potencial, tant per empreses privades com per altres institucions investigadores. És per això que existeix també força preocupació per l'ús d'aquesta tecnologia i els seus propietaris, ja que pot suposar un avantatge determinant sobre la resta d'empreses o països, i esdevenir un perill molt seriós voluntàriament o involuntàriament, per una desviació entre el comportament que esperem del sistema i el que n'obtenim. Per exemple, hi ha nombrosos exemples documentats d'agents intel·ligents que tenen un comportament esbiaixat per falta de contextsociocultural. (1) També cal tenir en compte que, com a eina digital que és, la seva integració en els processos actuals pot arribar a ser massa ràpida per a un món físic de persones que cal que acompanyi. L'automatització d'algunes tasques que fins ara desenvolupaven únicament els humans suposarà un canvi molt important en el tipus de feina del futur, raó per la qual cal anar-se preparant i mirar amb deteniment les repercussions de posar en funcionament un sistema d'aquestes característiques. No obstant, en el món actual molts processos són poc eficients, i nombroses organitzacions pateixen una falta de recursos i de personal evident. És aquí també on es podrien intentar fer servir aquestes noves solucions per ajudar i millorar la qualitat de vida de tots els ciutadans. És la cara bona de la moneda. Amb aquesta idea en ment neix CVentaur, un prototip de plataforma on persones no expertes en intel·ligència artificial puguin col·laborar per crear i validar models d'aprenentatge automàtic orientats a la detecció d'objectes en imatges, amb el fi d'accelerar, millorar la precisió i evitar errors en aquests tipus de tasques. Es tracta d'aprofitar el coneixement d'aquestes persones i digitalitzar-lo perquè es pugui utilitzar i compartir més fàcilment, alhora que elles se'n beneficien.

[es] Durante los últimos años, el campo de la inteligencia artificial i el aprendizaje automático ha experimentado un crecimiento revolucionario gracias a avances en áreas como el aprendizaje profundo, y que han abierto las puertas a nuevas soluciones, herramientas y tecnologías que hasta ahora eran imposibles de implementar Algunas de estas aplicaciones las encontramos ya instauradas en nuestro día a día en ámbitos como el reconocimiento facial, la detección de anomalías de origen diverso, la predicción bursátil o meteorológica y la optimización de procesos, entre muchos otros. Sin embargo, actualmente la gran mayoría están aún en desarrollo o se encuentra a la espera de resolver problemas relacionados con la seguridad, la legalidad o incluso con la ética de los agentes inteligentes implicados. Se están planteando situaciones y consecuencias derivadas del uso de este tipo de sistemas que nunca antes habían sido necesarias de considerar. La cantidad de recursos económicos y profesionales que se están destinando a este campo es enorme, dado su potencial, tanto por empresas privadas como por otras instituciones investigadoras. Por ello, existe también bastante preocupación por el uso de esta tecnología y sus propietarios, ya que puede suponer una ventaja determinante sobre las demás empresas o países y convertirse en un peligro muy serio voluntaria o involuntariamente por una desviación entre el comportamiento esperado o deseado del sistema y el que obtenemos. Por ejemplo, existen numerosos ejemplos documentados de agentes inteligentes que tienen un comportamiento racista o sexista por haber usado datos sesgados durante el entrenamiento o por falta de contexto sociocultural. (1) Hay que tener en cuenta que, como herramienta digital que es, su integración en los procesos actuales puede llegar a ser demasiado rápida para un mundo físico de personas que es necesario que acompañe. La automatización de algunas tareas que hasta ahora desarrollaban únicamente los humanos supondrá un cambio muy importante en el tipo de trabajo del futuro, razón por la cual hay que empezar a prepararse y mirar con lupa las repercusiones de poner en marcha un sistema de estas características. No obstante, en el mundo actual muchos procesos son poco eficientes y numerosas organizaciones padecen una falta de recursos y de personal evidente. Es aquí también donde se podría intentar hacer uso de estas nuevas soluciones para ayudar y mejorar la calidad de vida de todos los ciudadanos. Es la cara buena de la moneda. Con esta idea en mente nace CVentaur, un prototipo de plataforma donde personas no expertas en inteligencia artificial puedan colaborar para crear modelos de aprendizaje automático para la detección de objetos en imágenes, con el objetivo de acelerar, mejorar y evitar errores en este tipo de tareas. Se trata de aprovechar el conocimiento de estas personas y digitalizarlo para que pueda ser usado y compartido más fácilmente, al mismo tiempo que éstas se benefician.