Faits:
A. Le 11 mars 2008, la commune de Payerne a mis à l'enquête publique le plan partiel d'affectation "Le Vernex" (ci-après: le PPA), destiné à des activités artisanales, commerciales, hôtelières, ainsi que de sports et loisirs. Situé le long de la route cantonale Lausanne-Berne, en face du Golf des Invuardes à environ un kilomètre et demi du centre-ville, le secteur concerné est composé des parcelles n° 1406, 4646 et 1745, d'une surface totale de 55'309 m2, déjà en zone industrielle. Il comprend trois périmètres d'implantation. Le périmètre A est destiné aux activités fortement gênantes (karting en plein air), avec un degré de sensibilité IV. Il comprend déjà deux halles destinées l'une à un karting intérieur, l'autre à un espace de jeux, exploités par la société C._. Les périmètres B (pouvant accueillir un parking) et C (situé de l'autre côté de la route cantonale et comprenant une station-service) sont destinés à des activités moyennement gênantes, avec un degré de sensibilité III. Le plan et son règlement fixent notamment les distances aux limites et entre bâtiments, les hauteurs maximales de constructions (16 m pour le périmètre A et 12 m pour les périmètres B et C), une surface de verdure de 20% au minimum, un accès par la route cantonale et un nombre de places de stationnement conforme aux normes VSS. Des mesures de protection contre le bruit seront réalisées en cas d'activités fortement gênantes (p. ex. karting en plein air). Il s'agit d'une digue anti-bruit de 1,5 m sur deux côtés du périmètre A comprenant la piste de karting extérieure, avec une digue complémentaire du côté du Golf des Invuardes.
Selon l'étude de bruit du 28 juin 2007, l'exploitation du karting extérieur n'entraînera pas de dépassement des valeurs de planification sur les zones adjacentes au site. L'augmentation du trafic n'engendrera pas une perception d'immissions plus élevées. Les mesures de prévention sont les suivantes: pas de karting extérieur entre 19h et 7h, ni le lundi; pas de motos à l'extérieur; les digues et parois anti-bruit devraient permettre une réduction des charges sonores d'environ 1dB.
Les préavis recueillis ont, en dernier lieu, été positifs. Après avoir fait remarquer que le secteur n'était pas desservi par les transports publics, le Service cantonal de la mobilité (SMob) a pris note qu'une étude était en cours à ce sujet. Le Service cantonal de l'environnement et de l'énergie (SEVEN) a pour sa part admis que le degré de sensibilité III (et non IV) soit attribué aux périmètres B et C. Il a par ailleurs fixé diverses conditions d'exploitation.
Le PPA a fait l'objet d'une vingtaine d'oppositions, notamment de la part des époux A._, domiciliés à Corges à environ un kilomètre au sud-ouest du PPA. Les oppositions ont été levées le 3 juillet 2008 par le Conseil municipal de Payerne, et le PPA a été approuvé le 9 septembre 2008 par le Chef du Département cantonal de l'économie.
B. Cette dernière décision a fait l'objet d'un recours auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois (CDAP), formé par les époux A._ et par B._ qui avait acquis le 8 octobre 2008 la parcelle n° 314 du cadastre communal.
Par arrêt du 17 août 2009, la CDAP a déclaré irrecevable le recours en tant qu'il était formé par les époux A._: leur propriété était trop éloignée du périmètre pour que le bruit provenant de l'installation soit perceptible. La CDAP a déclaré le recours recevable en tant qu'il était formé par B._: sa propriété était située à 500 m environ au sud-est du périmètre et il était possible que le bruit de l'exploitation soit perceptible aux moments où le trafic sur la RC 601 était moins important. Le recours a été rejeté sur le fond. L'affectation industrielle du secteur avait été progressivement abandonnée après la réalisation de la piscine communale, du Golf de Ivuardes, du stand de tir et des activités liées à l'équitation. Le PPA tenait compte de cette évolution de manière appropriée. Selon l'étude acoustique, les valeurs de planification étaient respectées pour les trois endroits les plus sensibles, notamment l'habitation de B._. L'accroissement de trafic sur la RC 601 ne causerait qu'une augmentation résiduelle, voire nulle des nuisances de bruit. Les conditions d'exploitation définies dans l'étude de bruit, et partie intégrante de la décision d'approbation, constituaient des mesures suffisantes de limitation préventive. Le grief relatif à l'obligation d'assurer une desserte par les transports publics relevait de l'opportunité. Une étude était d'ailleurs en cours à ce sujet.
C. Les époux A._ et B._ forment un recours en matière de droit public par lequel ils demandent, principalement, l'annulation de l'arrêt cantonal et de la décision d'approbation, subsidiairement le renvoi de la cause à la CDAP pour nouvelle décision après complément d'instruction.
Les recourants ont formé une demande d'effet suspensif, qui a été admise par ordonnance du 13 octobre 2009.
Le Tribunal cantonal a renoncé à répondre au recours et se réfère à son arrêt. Le SEVEN renvoie aux observations formulées en instance cantonale. Le Service du développement territorial (SDT) fait de même, en confirmant son préavis négatif. La commune de Payerne et C._ concluent à l'irrecevabilité, subsidiairement au rejet du recours. L'Office fédéral de l'environnement (OFEV) considère que l'augmentation des immissions de bruit due à l'exploitation du karting sera perceptible depuis la maison des époux A._; il estime, sur le fond, que les valeurs de base de l'étude acoustique sont plausibles. L'Office fédéral du développement territorial (ODT) se prononce dans le même sens que le SDT. La commune de Payerne et les recourants ont déposé des observations complémentaires.
Considérant en droit:
1. Dirigé contre une décision finale (art. 90 LTF) prise en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans le domaine du droit public de l'aménagement du territoire et des constructions (art. 82 let. a LTF), le recours est en principe recevable comme recours en matière de droit public selon les art. 82 ss LTF.
1.1 Les époux A._ se sont vu dénier la qualité pour recourir devant le Tribunal cantonal. Ils ont en principe qualité pour s'en plaindre (art. 89 al. 1 let. a in fine LTF). En l'espèce toutefois, le recours est formé conjointement avec B._, dont la qualité pour agir a été reconnue devant l'instance précédente. Dans la mesure où les époux A._ ne prétendent pas faire valoir, sur le fond, des arguments différents, leur qualité pour agir peut demeurer indécise, ce qui dispense d'examiner les griefs - formels et matériels - soulevés à cet égard. La question est également sans incidence sur les frais et dépens de l'instance précédente, puisque la cour cantonale a statué à ce sujet de manière globale, sans faire de distinction entre l'irrecevabilité et le rejet du recours.
1.2 La CDAP a admis la recevabilité du recours formé par B._, en considérant que celui-ci habitait à moins de 500 m de l'emplacement du PPA, et que les immissions de bruit provenant du karting seraient perceptibles pour lui, en tout cas en dehors des périodes de fort trafic sur la RC 601. N'ayant acquis sa parcelle qu'en octobre 2008, il n'avait pu intervenir dans la procédure d'opposition. Bien que contestée par la commune, cette dernière considération ne peut être remise en cause à ce stade. Elle n'est au demeurant pas arbitraire, s'agissant de l'application de dispositions de droit cantonal, en l'occurrence les art. 13 al. 1 let. d et 75 al. 1 LPA/VD (cf. arrêt 1P.44/2001 du 29 novembre 2001 consid. 2c/bb). Le recourant ayant participé à la procédure devant l'autorité précédente, il satisfait en tout cas aux conditions posées à l'art. 89 al. 1 LTF.
2. Dans un grief de nature formelle, les recourants reprochent à la CDAP de n'avoir pas procédé à une inspection locale. Dès lors que cette mesure d'instruction était uniquement destinée à démontrer la qualité pour recourir des époux A._, l'argument tombe à faux puisque, comme cela est relevé ci-dessus, la question n'a pas à être tranchée. Les recourants font aussi valoir que la cour cantonale aurait dû ordonner une expertise afin d'une part de démontrer que la gêne causée par les activités dans le périmètre du PAA était perceptible - grief qui n'a pas non plus à être examiné puisqu'il se rapporte lui aussi à la qualité pour agir - et d'autre part de vérifier la fiabilité des données de base de l'expertise (nombre de visiteurs par année, nombre de karts en exploitation). Le SEVEN ne se serait pas livré à un examen suffisant de l'expertise de bruit.
2.1 Le droit d'être entendu garanti à l'art. 29 al. 2 Cst. (le droit cantonal invoqué par les recourants ne va pas plus loin) comprend notamment celui de faire administrer les preuves pour autant que celles-ci soient requises dans les formes prévues par le droit cantonal et qu'elles apparaissent utiles à l'établissement des faits pertinents (ATF 129 II 497 consid. 2.2 p. 504; 127 I 54 consid. 2b p. 56; 126 I 97 consid. 2b p. 102). L'autorité de décision peut donc se livrer à une appréciation anticipée de la pertinence du fait à prouver et de l'utilité du moyen de preuve offert et, sur cette base, refuser de l'administrer. Ce refus ne viole le droit d'être entendu que si l'appréciation à laquelle elle a ainsi procédé est entachée d'arbitraire (ATF 131 I 153 consid. 3 p. 157 et les arrêts cités; sur la notion d'arbitraire, voir ATF 134 I 263 consid. 3.1 p. 265).
2.2 La cour cantonale a considéré que les évaluations figurant dans l'étude acoustique avaient été approuvées par le SEVEN, et qu'elle ne pouvait dès lors s'en écarter que pour des motifs impérieux. Cela est conforme à la jurisprudence (ATF 132 II 257 consid. 4.4.2 p. 269;124 II 460 consid. 4b p. 473). La CDAP a ensuite retenu que les recourants se bornaient à de vagues généralités et ne faisaient état d'aucun motif sérieux. Les recourants ne sauraient reprocher à l'auteur de l'étude acoustique de s'être fondé sur les données fournies par l'exploitant du karting. Seul ce dernier est en effet à même d'indiquer les conditions d'exploitation de la nouvelle piste de karting extérieure. Actuellement, le karting accueillerait 90'000 clients par année, et l'agrandissement prévu permettrait d'attendre 15'000 clients supplémentaires.
Les recourants contestent ces chiffres, mais se fondent pour ce faire sur une simple affirmation (110'000 visiteurs par année), faite manifestement à titre promotionnel dans un article de presse du mois de juillet 2006. Cela ne saurait remettre en cause les déclarations faites dans le cadre d'une expertise revêtant un caractère officiel. Les recourants "ont le sentiment" que le nombre de karts utilisés serait supérieur à celui mentionné dans l'expertise (8 engins en moyenne simultanément sur la piste), sans toutefois apporter le moindre élément concret permettant de mettre en doute cette évaluation moyenne. L'affirmation selon laquelle les karts ne tournaient pas à pleine puissance lors des essais, paraît tout aussi gratuite, comme le sont également les critiques générales adressées au SEVEN. Le service cantonal ne peut évidemment se livrer à des vérifications de l'ensemble des données figurant dans l'étude de bruit, s'agissant en particulier du mode d'exploitation future de la nouvelle installation. Il peut ainsi se contenter de vérifier si les données de bases sont plausibles et les calculs corrects. C'est d'ailleurs ce qu'a également fait l'OFEV, qui relève dans sa réponse qu'il n'y a pas de motif de s'écarter de l'étude de bruit.
C'est dès lors au terme d'une appréciation anticipée des preuves dénuée d'arbitraire que la cour cantonale a écarté la requête tendant à une nouvelle expertise.
3. Sur le fond, les recourants soulèvent un unique grief. Ils se plaignent d'une violation de l'art. 47a al. 2 de la loi vaudoise sur l'aménagement du territoire et les constructions (LATC), disposition selon laquelle, pour les installations à forte fréquentation, l'accessibilité par les transports publics doit être garantie. La cour cantonale a considéré que cette question relevait de l'opportunité, ce que les recourants considèrent comme arbitraire. L'accessibilité par les transports publics devrait être garantie au moment de l'adoption du plan, ce qui permettrait d'édicter des prescriptions d'exploitation et de limiter en conséquence le nombre de places de parc, conformément aux exigences de l'art. 11 LPE. Le simple fait qu'une étude ait été engagée par la commune serait insuffisant.
3.1 La disposition invoquée par les recourants peut certes avoir des effets sur l'application du droit de la protection de l'environnement et de l'aménagement du territoire, s'agissant notamment des nuisances dues au trafic et du nombre de places de stationnement nécessaires (ATF 123 II 337 consid. 5 p. 349). Toutefois, ni l'art. 3 al. 3 let. a LAT (qui constitue un simple principe de planification), ni les art. 19 et 22 al. 2 let. b LAT relatif à l'équipement, ne posent des exigences particulières en matière de transports publics (même arrêt; arrêts 1A.125/ 2005 du 21 septembre 2005 consid. 9.2.2 et 1A.54/2001 du 14 février 2002 consid. 1.2.1). Il en va de même de l'art. 12 al. 1 let. c LPE, qui, en dehors des plans de mesures prévus à l'art. 44a LPE, ne permet pas d'imposer directement à l'exploitant une desserte suffisante par les transports publics (arrêt 1A.54/2001 précité consid. 1.2.2-1.2.3). C'est donc au droit cantonal qu'il appartient de poser de telles exigences. S'agissant de l'interprétation et de l'application d'une disposition du droit cantonal, le pouvoir d'examen du Tribunal fédéral est limité à l'arbitraire.
3.2 Il y a arbitraire, prohibé par l'art. 9 Cst., lorsque la décision attaquée viole gravement une règle ou un principe juridique clair et indiscuté ou lorsqu'elle contredit d'une manière choquante le sentiment de la justice ou de l'équité. Le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle est insoutenable ou en contradiction évidente avec la situation de fait, si elle a été adoptée sans motif objectif ou en violation d'un droit certain. Par ailleurs, il ne suffit pas que les motifs de la décision attaquée soient insoutenables, encore faut-il que celle-ci soit arbitraire dans son résultat (ATF 131 I 57 consid. 2 p. 61 et la jurisprudence citée), ce qu'il appartient au recourant de démontrer en vertu de l'art. 106 al. 2 LTF (ATF 134 I 263 consid. 3.1 p. 265; 133 I 149 consid. 3.1 p. 153 et la jurisprudence citée).
3.3 Intitulé "Raccordement aux transports publics", l'art. 47a LATC a la teneur suivante:
1 Dans l'élaboration et l'application des plans d'affectation, la municipalité favorise le recours aux transports publics.
2 Pour les installations à forte fréquentation, l'accessibilité par les transports publics doit être garantie.
3 Les bâtiments et installations à forte génération de trafic de marchandises sont raccordés au rail.
4 Les alinéas 2 et 3 ne s'appliquent qu'aux constructions nouvelles et pour autant que le raccordement soit techniquement possible, raisonnable et sans frais disproportionnés.
3.4 L'appréciation de la cour cantonale selon laquelle la question de la desserte en transports publics relèverait de l'opportunité, n'est pas soutenable. L'art. 47a LATC ne permet en effet pas à l'autorité de planification de choisir librement entre les possibilités qui s'offrent à elle. Elle est tenue d'adopter une solution favorisant les transports publics (al. 1). Dans les cas visés aux al. 2 et 3, elle doit même assurer une accessibilité par les transports publics, respectivement un raccordement au rail, aux conditions précisées à l'alinéa 4.
Dans son résultat toutefois, l'arrêt attaqué ne consacre pas une application arbitraire de l'art. 47a LATC.
3.5 Cette disposition a été introduite par la loi du 23 mai 2006. Selon le projet, l'art. 47a al. 2 LATC était ainsi libellé: "Pour les gros générateurs de trafic, l'accessibilité par les transports publics doit être garantie" (Bulletin du Grand Conseil, mars-avril 2006 p. 9659). L'expression "installations à forte fréquentation" a été introduite afin d'employer la terminologie de la législation fédérale (idem, p. 9826). La LATC ne définit en effet pas la notion d'installation à forte fréquentation (ci-après: IFF), même si elle semble considérer comme tels les centres commerciaux "dont la surface excède 2000 m2 et dont les impacts doivent être définis par un indice de génération de trafic" (art. 47 al. 2 ch. 11 LATC). L'art. 74a al. 2 LATC ne saurait toutefois s'appliquer à n'importe quelle installation susceptible de générer du trafic, sans quoi l'exigence plus générale posée à l'art. 47a al. 1 LATC n'aurait plus aucun sens. Pour être soumise à l'obligation supplémentaire prévue à l'art. 47a al. 2 LATC, une installation doit être susceptible d'attirer un public nombreux et d'engendrer une forte augmentation du trafic individuel et, partant, des polluants atmosphériques.
En droit fédéral, la notion d'IFF s'étend à tous projets ayant une incidence considérable sur l'organisation du territoire et l'environnement. Elle couvre une large typologie d'installations et s'étend aux supermarchés, centres commerciaux, équipements de loisirs tels que cinémas multiplexes et centres de fitness, installations combinant des équipements de loisirs et des magasins et les grandes zones industrielles ou pôles de développement économique (Installations à forte fréquentation, Cahier de l'environnement n° 346 édité par l'ODT et l'OFEFP, Berne 2002, pp 35-36; CHANTAL DUPRÉ, Les installations à forte fréquentation - quelles mesures pour diminuer les impacts ? Baurecht 1/2006 p. 48). Le plan directeur cantonal retient une définition semblable, puisqu'il considère comme des IFF les centres commerciaux, les grands marchés spécialisés, les équipements de loisirs et les équipements logistiques. Suivant le critère retenu, il peut s'agir des installations soumises à l'étude d'impact sur l'environnement, selon les critères de l'annexe à l'OEIE, des projets constituant des sources d'émissions supérieures à la moyenne ou des installations impliquant un usage accru du réseau routier (sur l'ensemble de ces critères, cf. ODT/OFEFP, op. cit. pp 40-41).
En l'occurrence, le karting accueille actuellement, selon l'étude de bruit, 90'000 clients par année, ce qui correspond à 60'000 mouvements de véhicules automobiles. Le nombre de places de stationnement, actuellement 120, est suffisant et ne devrait pas être augmenté après l'extension de l'exploitation. Le projet ne répond ainsi à aucun des critères de l'annexe à l'OEIE pour la soumission à une étude d'impact (parc de stationnement pour plus de 500 voitures, ch. 11.4; parcs d'attractions de plus de 75'000 m2 ou d'une capacité de plus de 4000 visiteurs par jour, ch. 60.6; pistes pour véhicules motorisés destinées à des manifestations sportives, ch. 60.8). Par rapport à l'affectation de la zone, le projet n'engendrera pas d'émissions de polluants supérieures à la moyenne (cf. ATF 124 II 272). Le trafic généré n'aurait en outre aucune incidence sur l'utilisation ordinaire du réseau routier, puisque l'accès se fait directement depuis la route Lausanne-Berne, dont la charge de trafic était, en 2005, de 5200 véhicules/jour. Il est en outre largement inférieur au seuil de 2000 véhicules/jour préconisé par l'ODT/OFEFP (op. cit. p. 39).
3.6 Il résulte de ce qui précède que le projet de PPA, qui tend essentiellement à une extension du karting et à l'installation d'une piste extérieure, ne saurait être assimilé à une installation à forte fréquentation. Il n'a en particulier rien de comparable avec les projets qui ont fait l'objet des arrêts mentionnés par les recourants (arrêts 1A.125/2005 du 21 septembre 2005 consid. 9.2.2 et 1A.54/2001 du 14 février 2002 consid. 1.2.1). Il en résulte que le refus d'examiner le projet sous l'angle de l'art. 47a al. 2 LATC n'est pas arbitraire.
3.7 La municipalité n'en reste certes pas moins tenue, aux termes de l'art. 47a al. 1 LATC, de "favoriser le recours aux transports publics". Si elle ne relève pas non plus de la pure opportunité, une telle disposition confère néanmoins une marge d'appréciation importante. Elle n'impose pas une mesure de planification particulière et peut permettre une intervention ultérieure (dans l'élaboration et l'application des plans d'affectation), en particulier à l'occasion d'une autorisation de construire. Les autorités communales allèguent à ce propos qu'elles auraient mis à l'étude une desserte de l'ensemble du secteur par les transports publics, ce que contestent tant les recourants que le Service cantonal du développement territorial dans sa réponse. Les indications de la commune de Payerne, de même que les dernières pièces produites par la Municipalité tendent toutefois à prouver que les faits retenus sur ce point par la cour cantonale ne sont pas non plus arbitraires.
4. Le recours doit par conséquent être rejeté, dans la mesure où il est recevable. Conformément à l'art. 66 al. 1 LTF, les frais judiciaires sont mis à la charge des recourants, de même que l'indemnité de dépens allouée à l'intimée C._ (art. 68 al. 2 LTF). Il n'est pas alloué de dépens à la commune de Payerne (art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans le mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3000 fr., sont mis à la charge des recourants.
3. Un indemnité de dépens de 2000 fr. est allouée à l'intimée C._, à la charge solidaire des recourants.
4. Le présent arrêt est communiqué aux mandataires des parties et du Conseil communal de Payerne, au Département de la sécurité et de l'environnement du canton de Vaud, Service de l'environnement et de l'énergie, au Département de l'économie du canton de Vaud, Service du développement territorial, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, à l'Office fédéral du développement territorial et à l'Office fédéral de l'environnement, Division Droit.
Lausanne, le 19 juillet 2010
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Féraud Kurz