metadata: authors: 0: author: Condarco,Pedro Aurelio Magne
1: author: Gaillard, Michel Eric
2: author: Suarez Lissi De Bortman,Maria Alejandra
3: author: Rodriguez-Garcia,Rosalia
count: Latin America
docna: 0: docna: Methodology for the assessment of data
            quality : application to HIV and AIDS programs in Latin America
docty: Policy Research Working Paper
subtopic: Health Care Services Industry,Public Health Promotion,HIV AIDS,Competition Policy,Cholera,Communicable Diseases,Leprosy,Law and Justice Institutions
teratopic: Information and Communication Technologies,Health, Nutrition and Population,Poverty Reduction
abstracts: cdata!: Evidence is crucial in strategic
            planning for HIV response as well as the monitoring of
            results. This paper presents a simple tool that can be used
            to analyze the methodological quality of HIV data, its scope
            and limitations, and whether it can be accurately compared
            with other evidence. The tool, utilized as a questionnaire
            or checklist, first identifies the type of document
            containing the data; the status and means of its
            publication; the epidemiological design used; and the
            priority population. Next, the document is analyzed against
            a verification list based on eight methodological criteria:
            1) objective; 2) inclusion and exclusion criteria; 3) sample
            size; 4) sampling technique; 5) error-reduction strategies;
            6) data analysis technique; 7) limitations; and 8)
            confidence intervals and/or statistical significance. The
            paper also presents the results of implementing the tool in
            three Latin American countries.
alt_title: 0: alt_title: Metodologia para el analisis de la
            calidad de los datos : implementacion en programas de VIH y
            SIDA en Latinoamerica
repnme: repnme: Methodology for the assessment of data
            quality : application to HIV and AIDS programs in Latin America
display_title: Methodology for the assessment of
            data quality : application to HIV and AIDS programs in Latin America
listing_relative_url: /research/2011/05/14168257/methodology-assessment-data-quality-application-hiv-aids-programs-latin-america
topicv3: Strategic Policy Planning m1326752 1927,Pandemics m1327520 2167,HIV/AIDS m1327522 1416,Health m1504661 3480,Men who have Sex with Men m1504719 3511
publishtoextweb_dt: 2010-07-01T00:00:00Z
historic_topic: Information and Communication Technologies,Health, Nutrition and Population,Poverty Reduction
no_of_pages: 101
author_keys: 0: author_key: 1071864
1: author_key: 1042229
2: author_key: 621974
fullavailablein: node_id: 14168257
model_extractions: WPS5653 Policy Research Working Paper 5653 Methodology for the Assessment of Data Quality Application to HIV and AIDS Programs in Latin America _Rosalía Rodriguez-García Michel Eric Gaillard Alejandra Suarez Lissi Pedro Magne Condarco_ The World Bank Human Development Network Global HIV/AIDS Program Health, Nutrition and Population Team May 2011
Policy Research Working Paper 5653

# **Abstract**

Evidence is crucial in strategic planning for HIV response as well as the monitoring of results. This paper presents a simple tool that can be used to analyze the methodological quality of HIV data, its scope and limitations, and whether it can be accurately compared with other evidence. The tool, utilized as a questionnaire or checklist, first identifies the type of document containing the data; the status and means of its publication; the epidemiological design used; and the priority population. Next, the document is analyzed against a verification list based on eight methodological criteria: 1) objective; 2) inclusion and exclusion criteria; 3) sample size; 4) sampling technique; 5) error-reduction strategies; 6) data analysis technique; 7) limitations; and 8) confidence intervals and/or statistical significance. The paper also presents the results of implementing the tool in three Latin American countries.

This paper is a product of the Global HIV and AIDS Program, Health, Nutrition and Population; Human Development Network. It is part of a larger effort by the World Bank to provide open access to its research and make a contribution to development policy discussions around the world. Policy Research Working Papers are also posted on the Web at http:// econ.worldbank.org. The author may be contacted at rrodriguezgarcia@worldbank.org.

_The Policy Research Working Paper Series disseminates the findings of work in progress to encourage the exchange of ideas about development issues. An objective of the series is to get the findings out quickly, even if the presentations are less than fully polished. The papers carry the names of the authors and should be cited accordingly. The findings, interpretations, and conclusions expressed in this paper are entirely those of the authors. They do not necessarily represent the views of the International Bank for Reconstruction and Development/World Bank and its affiliated organizations, or those of the Executive Directors of the World Bank or the governments they represent._ Produced by the Research Support Team
# **METHODOLOGY FOR THE ASSESSMENT OF DATA QUALITY: APPLICATION TO HIV AND AIDS PROGRAMS IN LATIN AMERICA**

Rosalía Rodriguez-García, Michel Eric Gaillard, Alejandra Suarez Lissi, and Pedro Magne Condarco<sup>1</sup> The World Bank <u>Keywords: Data quality, HIV and AIDS, Andean Region</u>

**The Spanish version of this study is included at the end of this report.**

1 The authors are staff or consultants with the Global HIV and AIDS Program, HNP, Human Development Network. The paper benefited from a peer review process that included specialists who reviewed the English and Spanish versions. The authors wish to thank and acknowledge the reviewers listed in the appendix for providing useful comments and insights. The authors would also like to acknowledge the support of David Wilson, Director for HIV and AIDS at the World Bank. The opinions expressed in this paper are those of the authors only and need not represent the views of the World Bank, its Executive Directors of the countries they represent.
# **<mark>Table of Contents</mark>**

|Foreword ................................................................................................................................ 5|
|---|
|Acronyms ................................................................................................................................ 6|
|Summary ................................................................................................................................. 7|
|Methodology to Assess the Quality of Data ........................................................................... 9|
|Introduction ........................................................................................................................ 9|
|The use of evidence for informed decision-making ....................................................... 9|
|Why is it important to assess data quality? ................................................................. 10|
|Methodology for the Assessment of Data Quality ........................................................... 11|
|Characterization of documents .................................................................................... 12|
|Assessment of the methodological content ................................................................. 12|
|The basis for the eight criteria: Representativeness and the role of chance .............. 14|
|Implementation Method .................................................................................................. 16|
|Experience in Latin America ............................................................................................. 17|
|Assessment of the data quality in the Andean Region: Bolivia, Ecuador and Peru ..... 19|
|Results ........................................................................................................................... 20|
|Conclusions about the use and usefulness of the tool ..................................................... 38|
|References ............................................................................................................................ 40|
|Annex 1: Document Quality Assessment Tool ..................................................................... 42|
|Annex 2: Acknowledgements ............................................................................................... 48|

# **<mark>List of Tables</mark>**

|Table 1. Characterization of each of the documents included in the database .................. 12|
|---|
|Table 2. Methodological aspects evaluated ......................................................................... 13|
|Table 3. Cut-off points on the score range ........................................................................... 13|
|Table 1A. Methodological Classification of the Studies Included in the Database. Country|
|“X”, 2009 ............................................................................................................................... 47|
# **<mark>List of Figures</mark>**

|Figure 1. Strategy results cycle applied to HIV and AIDS response ...................................... 10|
|---|
|Figure 2. Types of documents compiled in Peru, Ecuador, Bolivia, Uruguay, Paraguay,<br>Nicaragua, Guatemala and El Salvador; 2009–2010 ............................................................ 17|
|Figure 3. Publication status of the compiled documents in Peru, Ecuador, Bolivia, Uruguay,|
|Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010 ........................................... 18|
|Figure 4. Epidemiological design of the studies compiled in Peru, Ecuador, Bolivia,<br>Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010 ............................ 18|
|Figure 5. Methodological quality of studies compiled in Peru, Ecuador, Bolivia, Uruguay,|
|Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010 ........................................... 19|
|Figure 6. Type of documents compiled, by country. Andean Region; 2009 ........................ 20|
|Figure 7. Publication status of the documents compiled, by country. Andean Region; 2009<br>.............................................................................................................................................. 21|
|Figure 8. Epidemiological designs of studies compiled, by country. Andean Region; 2009 23|
|Figure 9. Priority population of the studies compiled, by country. Andean region; 2009 ... 24|
|Figure 10. Methodological quality of the compiled studies, by country. Andean Region;<br>2009 ...................................................................................................................................... 26|
|Figure 11. Methodological quality of the studies in MSM populations, by country. Andean|
|Region; 2009 ......................................................................................................................... 27|
|Figure 12. Methodological quality of the studies on female sex workers. Andean Region;<br>2009 ...................................................................................................................................... 28|
|Figure 13. Methodological quality of the studies of prisoners, by country. Andean Region;<br>2009 ...................................................................................................................................... 29|
|Figure 14. Methodological quality of studies on people living with HIV, by country.|
|Andean Region; 2009............................................................................................................ 30|
|Figure 15. Methodological quality of the studies in general population, by country. Andean<br>Region; 2009 ......................................................................................................................... 31|
|Figure 16. Methodological quality from youth and adolescents studies, by country. Andean|
|Region; 2009 ......................................................................................................................... 32|
|Figure 17. Origin of methodological weakness in studies done in key populations, by<br>country. Andean Region; 2009 ............................................................................................. 34|
|Figure 18. Origin of methodological weakness in studies done in general populations and<br>youth, by country. Andean Region; 2009 ............................................................................. 35|
# **<mark>Foreword</mark>**

The work presented in this document grew out of the experiences of the AIDS Strategy and Action Plan program (ASAP) in Latin America. ASAP’s mission is to support countries in creating effective strategies in response to the HIV epidemic. It is now recognized that the most effective way to develop high-impact HIV policies and programs is through results-based management, a decision-making process that focuses on the use of evidence to make informed decisions. Therefore, an important aspect of strategic planning based on evidence is to provide such evidence—data that highlights the evolution and trends of the epidemic and its determinants—to decision-makers. The World Bank has worked in collaboration with the Ministries of Health from several countries to compile 15 years of locally-produced, primary-source data. The data for each country has been integrated into a document called “ _Database and References for an Evidence-Based Strategy”._ When using information from multiple and diverse sources, it is important: (i) to be able to understand the scope and limitations of the reported findings; (ii) to assess whether the studies can be accurately compared; and (iii) to take an in-depth look at the methodology used. Such an analysis can reveal, for example, the true representativeness of a sample, or the ability to generalize results to the study’s priority population. To this end, ASAP proposes an analysis tool in a questionnaire or verification list format to assess the methodological quality of data as reported,. The ASAP tool offers a practical approach that is especially useful for the kind of studies that are frequently used within the HIV field. The assessment tool can help to identify biases or methodological problems that may have emerged in design or implementation, providing a better understanding of the quality of information that the studies contain. Such a critical analysis will also help to identify the difficulties and constraints faced by researchers when working in the HIV field—especially when dealing with most-at-risk and hard to reach populations.

The utility of this methodology is illustrated by the rich experience acquired in Latin America by the ASAP team managed by the World Bank over the last two years.

5
|**Acronym**<br>|**s**<br>|
|---|---|
|AIDS|Acquired Immune Deficiency Syndrome|
|ASAP|AIDS Strategy and Action Plan|
|CDC|Centers for Disease Control and Prevention|
|DHS|Demographic and Health Surveys|
|GHAP|Global HIV and AIDS Program, World Bank|
|HIV|Human Immunodeficiency Virus|
|KAP|Knowledge, Attitude and Practice|
|MSM|Men who have Sex with Men|
|PAHO|Pan American Health Organization|
|PPT|PowerPoint|
|RDS|Respondent Driven Sampling|
|STI|Sexually Transmitted Infections|
|TLS|Time Location Sampling|
|TSS|Time Space Sampling|
|UNAIDS|United Nations Joint Program on AIDS|
|UNGASS|United Nations General Assembly|

6
# **<mark>Summary</mark>**

**Introduction** : In Latin America, there are about two million people living with HIV, and the epidemic is concentrated in key populations that have a high risk for infection. Various sources of information have been used in recent years to understand the region’s HIV epidemic and its determinants.  Recognizing the crucial value of evidence as the basis for strategic planning and the monitoring of results, ASAP has worked with Ministries of Health in eight Latin American countries to compile regional HIV data generated over the past 15 years.  ASAP organized the information from each country in a document entitled “ _Database and References for an Evidence Based Strategy”._ In a second phase, ASAP analyzed the methodological quality of this data to ascertain its scope and limitations, its reliability, and the extent to which it is feasible to compare findings across multiple studies. In order to carry out this assessment, a tool developed by ASAP was used, in both a questionnaire and checklist format.

**Objectives:** To present the conceptual framework, methodology and application methods of a tool that analyzes the methodological quality of data; to share, through practical examples, the results of implementing this methodology in the Andean Region.

**Methodology:** For the characterization and analysis, the studies first identify: (i) the type of document; (ii) the status and means of publication; (iii) the epidemiological design used; and (iv) the priority population.  Next, the document is analyzed against a verification list based on the following eight methodological criteria:

- 1) Clear and coherent objective, in accordance with the development of the study;

- 2) Definition of inclusion and exclusion criteria;

- 3) Sample size;

- 4) Sampling technique;

- 5) Strategies to reduce data collection errors;

- 6) Data analysis technique;

- 7) Evaluation of limitations imposed by the methodology; and

- 8) Expressions of confidence intervals and/or statistical significance.

One point is awarded if the feature described in each criterion is present, and zero if it is not. Criteria 3, 4 and 5 carry double weight. The scores are then added up, obtaining a total score or quality index on a scale from 0 to 11 points.

**Implementation in the Andean Region:** In 2009, ASAP utilized the tool in Bolivia, Ecuador and Peru. In all three countries, the findings reflected that the studies done in most-at-risk populations had quality scores lower than the scores from general population studies. The methodological characteristics that clearly contributed to these differences in scores were selection method bias and inadequate sample size.  Both of these characteristics represent challenges that must be taken into account in future research. There were also significant differences in the operational definitions of indicators—especially in HIV-

7
related knowledge and behavior areas—which make it difficult to accurately compare data. The use of sound indicators and prioritization of UNGASS indicators must be considered in research agendas. In Ecuador and Bolivia, a good number of unpublished studies were found. This suggests the need to encourage submission to peer-reviewed publications, which could contribute to improving study quality as well as more effective socialization. In these two countries, ASAP found an information gap in research focused on people living with HIV, information which must be taken under consideration. In Ecuador, information on syphilis and prevalence of other STIs represents a critical gap that needs to be included in the country’s research agenda. In Bolivia, the most-at-risk populations have been the least studied, which—given the epidemic’s concentrated characteristic—suggests the need to adjust the national research agenda.

**Conclusion on the use and usefulness of the tool:** The experience in Latin America has proven that the tool is both easy and feasible to use.  The methodology identified studies that were based on a design and strategy that contributed to the reliability of their results. The detailed methodological assessment in each study was of great use when utilized as the step prior to the data triangulation process.  By taking into consideration data quality, the tool has aided in redefining information gaps.  It has helped to identify the main methodological obstacles faced by local researchers and has proposed potential solutions. The ASAP team hopes that the tool will contribute to a better understanding of the HIV epidemic in Latin America and in other regions as well.

8
# **<mark>Methodology to Assess the Quality of Data</mark>**

## **Introduction**

In Latin America, as in most of the regions of the world, the first HIV cases were diagnosed in the early 1980s. Since then, the number of infected people has increased significantly. At present, there are an estimated two million people in the region living with HIV<sup>(1)</sup> —the majority are youth or young adults, which represents a significant economical and social burden in the affected countries. The HIV epidemic in Latin America is still concentrated— the majority of cases are in the most-at-risk population groups<sup>(1)</sup> . These groups are considered key populations in the study of the epidemic’s dynamics as well as the definition of the response. The primary populations that are at higher risk of infection are: (i) men who have sex with men; (ii) injection drug users; (iii) prisoners; and (iv) female sex workers.

The methods used for obtaining information related to the progress and characteristics of the epidemic have evolved over time. In the beginning, conventional first-generation surveillance systems were used. These passive surveillance systems were limited to counting the number of cases of traditional notifications done by the Ministries of Health. Later, more active and flexible surveillance systems were developed—these were called second-generation systems. In addition to tracking HIV prevalence, second-generation systems monitor changes in knowledge, behavior and sexual practices associated with the risk of acquiring the virus<sup>(2, 3)</sup> .

A key element for planning a country’s response to HIV is an understanding of the research-generated information on the dynamics of the epidemic. However, it is critically important to assess the scope and limitations of this evidence. To this end, ASAP has developed a checklist tool, which presents an easy way to support the assessment of research data quality.

### **The use of evidence for informed decision-making**

There is now international recognition that the most effective way to develop high-impact HIV policies and programs is through results-based management. In this management process, evidence is of crucial strategic and fundamental value. Strategic planning is based on observations—it focuses on outcomes that reflect the reality of the epidemic and the effectiveness of the national response. The planning process does not focus solely on the inputs and activities necessary to achieve specific objectives—instead, it focuses on the direct outcomes and impacts desired. Strategic planning is not a linear process. It is an iterative process, with phases that constantly reinforce and provide feedback, thus generating “live documents”. The essential mechanism is the monitoring and evaluation of the planning process and the national response which, through the measurement of outcomes, provides the ability to distinguish success from failure<sup>(4)</sup> (Figure 1). Hence, a 9
<!-- Start of picture text --> Establishing the Process<br>;<br>\¥ Use Evidence to Adjust<br>the Strategy Analyze HIV<br>A or Formulate Gi) Epidemic and Assess<br>Areas and Research National Response<br>Studies<br>ay Start Costed<br>z Operational Plan Identify Results<br>Specify _— Outcomes & Indicators-<br>Program . “<br>Monitoring<br>Start and<br>Costed Surveillance<br>M&E Plan 5. Cost Programs and Select Strategic<br>Resources Interventions<br>oe Interventions —Identify ran Programs and<br><!-- End of picture text -->
There are several evaluation strategies that assess the quality of epidemiological studies. In general, these methodologies are oriented towards determining the degree of evidence contributed by these studies, most of them clinical<sup>(5)</sup> . In this type of evaluation, clinical trials and cohort studies are considered to be the best methodological route to generate evidence—mostly because of causality issues, such as those that arise in the study of the efficiency and effectiveness of interventions and/or treatments. By contrast, crosssectional studies are considered exploratory and only capable of generating hypotheses. The particular situation under which research is done on the HIV epidemic (prevalence, determination of knowledge and behavior levels) limits the possibility of implementing experimental studies; HIV-related research is based mainly on the application of crosssectional studies or surveys. For this reason, the UNAIDS Triangulation Resource Guide states that priority, or the highest level of trust, must be given to the data obtained by large-scale, standardized, cross-sectional epidemiological studies, such as National Demographic and Health Surveys (DHS)<sup>(6)</sup> .

The literature notes several questionnaires and checklists that create a framework to assess the methodological quality of studies, but most of them are designed to be applied to randomized clinical trials and not to observational studies<sup>(7)</sup> . The methodology described in this paper was developed and implemented so that it is mostly applicable to cross-sectional studies. In a practical way, this new tool aims to determine which studies utilize strategies and designs that increase the reliability of the results. The ASAP questionnaire is based on an extensive analysis that includes the World Health Organization’s normative guidelines on the implementation of prevalence studies for sexually transmitted infections<sup>(8)</sup> , as well as several published materials—including books and scientific journals—which form the basis for evaluation of the methodological quality of epidemiological studies<sup>(9, 10, 11, 12, 13, 14)</sup> .

# **Methodology for the Assessment of Data Quality**

Since 2009, Ministries of Health in several Latin American countries—with help from UNAIDS and ASAP—have compiled the main findings of HIV studies done over the past fifteen years. The data for each country was then integrated into a document called “ _Database and References for an Evidence-Based Strategy”_ . Criteria for the studies to be included were simple: (i) they had to represent a primary source of data; and (ii) they had to contain quantitative data. Through this process, a great number of documents have been compiled by local, national and international research groups. The resulting databases are a robust collection of studies categorized by type, methodological characteristics and status of publication.

The methodology of analysis for data quality has two phases. The first phase characterizes each of the documents to be included in the database, and the second phase analyzes the methodological context. This analysis is carried out following an evaluation guideline (included in the Annex), whose main sections are detailed below.

11
# **Characterization of documents**

In the process of searching for studies related to the HIV epidemic, a great number and variety of documents are usually compiled. In the first step of the characterization, each document is identified as a scientific article or manuscript, a technical report, a PowerPoint presentation, a monograph, or another type of publication. In the second step, the publication status and the medium of publication are identified. In the third step, the type of epidemiological design and the priority population of the investigation are identified. Finally, the population(s) studied is identified (Table 1).

**Table 1. Characterization of each of the documents included in the database**

<!-- Start of picture text -->  Type of document: Scientific article<br>Technical report<br>PowerPoint presentation<br>Thesis/Monograph<br>Other<br> Publication status and medium of publication<br> Type of epidemiological design<br> Focus population of the investigation<br><!-- End of picture text -->

# **Assessment of the methodological content**

The methodological content is analyzed through a tool designed for this purpose. This tool evaluates the presence or absence of eight methodological aspects related to “best practices in the research field”; three of them are double-weighted because of their critical importance in the validity of the results. These double-weighted criteria are: (i) sampling technique; (ii) sample size; and (iii) development of strategies to reduce error in the data collection process. Respectively, they assess: (i) selection bias; (ii) the power of the study; and (iii) the consistency of the data. Throughout the questionnaire, for each of the eight criteria, one point is awarded if the feature is present; no points are awarded if it is absent. The score for the three double-weighted criteria is multiplied by 2 (Table 2).

12
# **Table 2. Methodological aspects evaluated**

<!-- Start of picture text --> 1) Objective of the study is coherent with its development<br>2) Definition of inclusion and exclusion criteria<br>3) Sample size*<br>4) Sampling technique*<br>5) Strategies to reduce error in data collection*<br>6) Data analysis technique<br>7) Assessment of the limitations imposed by the methodology<br>8) Confidence intervals and/or statistical significance<br>* Criteria with double-weighting<br><!-- End of picture text --> To finalize the process, the partial scores are added up, obtaining a total score that can be taken as a quality score or index. The final score will vary on a scale from 0 to 11 points (1 point per simple criteria = 5 points; 2 points per double-weighted criteria = 6 points; maximum total sum: 5+6=11). The cut-off points have been defined: a score of 8 or higher corresponds to high methodological quality; a score of 5 to 7 corresponds to intermediate methodological quality; and a score of 4 or less corresponds to limited methodological quality (Table 3).

**Table 3. Cut-off points on the score range**

|**8 to 11 points:**|**High methodological quality**|
|---|---|
|**5 to 7 points:**|**Intermediate methodological quality**|
|**0 to 4 points:**|**Limited methodological quality**|

To establish the cut-off points, ASAP gave consideration to the minimum number of criteria each study needed to have in order to be considered of high or intermediate methodological quality. ASAP did not use the technique of merely dividing the studies into thirds, because the quality of the studies is dependent on each document’s characteristics and is independent from the numerical distribution within the group. ASAP reasoned that:

- Studies should achieve at least 75% of the maximum possible score to be ranked as high methodological quality.

13
- Studies should achieve at least 45% of the maximum possible score to be ranked as intermediate methodological quality.

- Studies that achieved less than 45% of the maximum possible score should be ranked as limited methodological quality.

This means that studies must have at least two of the three double-weighted criteria in order to be eligible for the high methodological category—because the maximum possible score for studies that are missing two of the double-weighted criteria is 7 points.

# **The basis for the eight criteria: Representativeness and the role of chance**

As mentioned previously, the most frequently used epidemiological design for HIV research is the cross-sectional or survey type. This design is applied to a great variety of themes, most frequently serological and behavior surveys. The following is a review of important methodological concepts that need to be taken into account when interpreting cross-sectional studies.

## **Inclusion and exclusion criteria**

Inclusion and exclusion criteria define the universe of eligible subjects that are established by a study. It is very important to have these criteria in mind when making inferences or

**_Inclusion and exclusion criteria define the universe of eligible subjects, a distinction which controls the applicability of the study results._**

generalizations based on the findings in a study. For example, in a serological survey carried out on female sex workers, the inclusion criteria established that the sex workers belong to city brothels, an approach that excluded streetwalkers. Thus, the findings in that particular study cannot be generalized to all female sex workers of the city, but must be limited to the ones working in brothels.

## **Sample size**

Adequate sample size gives a study the ability to prove its hypothesis; in epidemiology this attribute is called “power of the study”. Adequate size in a sample produces more precision in a study’s findings. The larger the sample

**_The power of the study and accuracy of the results depend on the sample size._**

size, the narrower the resulting confidence interval and, therefore, the more accurate are the results. Sample size calculation allows the researcher to know the minimum number of individuals that will give the study the strength and accuracy desired. In the ASAP data quality assessment tool, this methodological feature was double-weighted because of its importance.

14
# **Sampling technique**

To understand the representativeness of a sample, it is very important to be aware of the sampling technique used. Selection bias happens when the selected participants are not

**_Selection bias occurs when the selected participants are not representative of the priority population._**

representative of the entire population to be studied. In the probability method, all individuals in a population group have the same opportunity of being selected, thereby obtaining representative samples of the priority population. By contrast, in a nonprobability sampling such as convenience sampling, each individual has a chance of getting selected based on a set of determined characteristics, which leads to less representative samples. The sampling method used by studies of hidden or hard-to-reach populations (for example, injection drug users or men who have sex with men) deserves special consideration. Because of the **_In the probability method, all_** discrimination and stigma often associated with **_individuals in a population group have_** these population groups, it is practically **_the same opportunity of being_** impossible to have a sampling framework that **_selected._** would accurately define the sample universe from which individuals are randomly selected. One example of a sampling framework for a general population is the telephone directory. However, this framework would be useful only if all inhabitants have a fixed telephone land line and each telephone number is listed in the directory. Otherwise, a selection bias would again be in play. For most hidden populations such a sampling framework cannot be established.

Thus, a strategy used in many studies is to obtain convenience sampling in places where members of the key population group frequently gather, such as bars or clubs. Obviously, individuals who frequent such places are the ones with a higher possibility of getting selected, a situation that does not comply with the principle of “equal likelihood of being selected for all individuals in a population group”—the definition of the probability

**_Alternative sampling techniques for use on hidden populations have been developed._**

sampling method. Such an approach also limits the possibility of making generalizations. In response to this constraint and based on a CDC initiative (Centers for Disease Control in Atlanta, Georgia USA), the implementation of other sampling techniques that provide an alternative to the traditional probability/nonprobability approach have been studied over the past few years<sup>(15, 16)</sup> . These alternative methods are RDS (Respondent-Driven Sampling) and TSS (Time-Space Sampling). The data quality analysis tool considers the use of probability sampling, or the alternatives RDS and TSS in hidden populations, a satisfactory sampling technique. Given the importance of this methodological characteristic, this criterion has been weighted and its result multiplied by a factor of two.

15
## **Percentage of people who do NOT respond to the survey**

In survey studies, even when the sampling method has been probabilistic, it is important to know the percentage of people that refused to respond. This issue is critical, because if differences exist among the group that responds **_The percentage of people who did_** to the survey and those that do not agree to **_not respond to the survey is an_** participate, then a selection bias would be **_important piece of information._** introduced. If the percentage of non-responders is high, the results from the survey will have limitations in terms of generalization. This is especially true if the cause motivating non-response is linked to the question being researched.

## **Techniques to reduce error in data collection**

In the development of cross-sectional studies, there are a variety of actions that can increase the accuracy of the data collected. These actions serve to give the study internal validity. When analyzing a survey study, it is important to understand issues such as whether pilot testing was done to adapt the study to local / colloquial language; whether surveyors or the personnel responsible for biological sample collection received appropriate training; or whether strict rules for biological data collection were followed. Because of its critical importance, this aspect has been weighted by a factor of two in the assessment of data quality tool.

# **Implementation Method**

The implementation of the data quality assessment is simple. The work is done based on the checklist discussed above and presented in the Annex. The questionnaire is answered point by point. For each positive answer, one point is awarded. Each negative answer is considered zero. For the three double-weighted criteria, the value is multiplied by two. When the questionnaire is complete, the results are added up, obtaining a value ranging from 0 to 11.

To facilitate the overall process, the data from each study is put into a table, as shown in the Annex (see Table 1A in Annex). The columns to the left in Table 1A contain the data related to the characterization of the study, based on the type of document, status and form of publication, epidemiological design, and priority population. In the columns on the right, the scores corresponding to each methodological quality criterion are recorded, placing a “0” or “1” as appropriate. The three double-weighted criteria are multiplied by a factor of two. The sum of the partial result is entered in the last column. In this column, traffic-light colors have been added to indicate the quality of the studies: green for high methodological quality, yellow for intermediate quality, and red for limited quality. By applying the characterization and the methodological assessment guide, this table compiles the totality of the data collected for each study.

16
# **Experience in Latin America**

Experience using this assessment methodology was initially gained in Latin America, where ASAP provided technical assistance in the compilation of HIV evidence. The first experiences were in 2009, in the three Andean countries of Ecuador, Peru and Bolivia. In 2010, ASAP expanded its activities to Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador. This exercise has proved very useful because it has not only allowed a review of the existing information gaps, but it has also facilitated exploration of the data quality produced by the studies. The characteristics and quality of the compiled documents in the eight mentioned countries are discussed below, along with details of the assessment done in the three Andean countries.

In the eight Latin American countries where ASAP worked, a total of 311 documents were compiled. More than half of them were technical reports—these were mostly prepared by governments, nongovernmental organizations, bilateral and multi-lateral cooperation agencies and academic sectors. These technical reports were generally available as independent or one-time publications. Close to one-third of the compiled documents were scientific articles—most of them published in journals where they had to undergo a peer review process. Ten percent were theses or monographs, most of which were available on the Internet, but some of which were only available in university libraries. A small percentage of documents were gathered in PowerPoint format (Figures 2 and 3).

**Figure 2. Types of documents compiled in Peru, Ecuador, Bolivia, Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010**

<!-- Start of picture text --> PPT<br>Thesis<br>3%<br>10%<br>Technical Report<br>54%<br>33%<br><!-- End of picture text --> 17
**Figure 3. Publication status of the compiled documents in Peru, Ecuador, Bolivia, Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010**

<!-- Start of picture text --> Bulletin<br>3%<br><!-- End of picture text --> <!-- Start of picture text --> Bulletin<br>3%<br>Internet<br>7%<br>Unpublished<br>One time<br>16%<br>Technical<br>Publication<br>44%<br>Peer Review<br>Journal<br>30%<br><!-- End of picture text --> With regard to epidemiological design, it was found that 95% of the studies used the cross-sectional or survey design. The remaining 5% included eight cohort studies, four experimental studies, two case-control studies and two case series studies. When the tool was applied to assess data quality, it was found that two-thirds of the studies had high methodological quality and only 10% had limited methodological quality (Figures 4 and 5).

**Figure 4. Epidemiological design of the studies compiled in Peru, Ecuador, Bolivia, Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010**

<!-- Start of picture text --> Other<br>Designs<br>5%<br>Cross Sectional<br>Design<br>95%<br>N= 311<br><!-- End of picture text --> 18
**Figure 5. Methodological quality of studies compiled in Peru, Ecuador, Bolivia, Uruguay, Paraguay, Nicaragua, Guatemala and El Salvador; 2009–2010**

<!-- Start of picture text --> Limited<br>10%<br>Intermediate<br>23%<br>High<br>67%<br>N= 311<br><!-- End of picture text -->

# **Assessment of the data quality in the Andean Region: Bolivia, Ecuador and Peru**

Peru is the Andean region’s largest country by population, with an estimated total of 27 million persons; Peru is followed by Ecuador with 14 million persons, and Bolivia with 10 million<sup>(17)</sup> . The advanced level of demographic transition is similar in all three countries, as reflected in the similar age group structures. In all three countries, half of the population is in the 15-49 year-old age group. The HIV epidemic also shares certain characteristics. The prevalence rate in adults 15-49 years old is less than 1% in all three countries (Peru 0.5%; Ecuador 0.3%; Bolivia 0.2%)<sup>(17)</sup> . On the other hand, HIV prevalence among men who have sex with men is well over 5% (Peru 12%<sup>(18)</sup> ; Ecuador 16.6%<sup>(19)</sup> ; Bolivia 9.6-15.3%<sup>(20)</sup> ). This population group has the highest rates in the region, with HIV prevalence 24 times higher than in the general population in Peru and more than 50 times higher in Ecuador and Bolivia. The male to female ratio (number of men infected for every woman infected) is approximately 2 to 1 in all three countries. The fact that twice as many men as women are infected underlines the importance of sexual transmission among men as a mode of HIV transmission. These numbers clearly reflect that in the Andean countries the HIV epidemic is concentrated in the most-at-risk populations, especially men who have sex with men.

19
# **Results**

A total of 57 documents were included in the assessment and characterization phase in Peru; 40 documents were included in Ecuador; and 25 in Bolivia. These documents were all compiled in each country’s respective database<sup>(21, 22, 23)</sup> . It is important to point out that some studies included more than one focus population in their investigation, and some used different methodological approaches for each population. In such cases, the documents were analyzed and scored separately for each population group. For example, in several baseline diagnostic assessment documents, different population groups were studied. For some populations, convenience sampling was used; in others, a probability sampling was used. For some, an adequate sample size was achieved; in others it was not. The study of each of these populations within the same document was scored individually. For this reason the number of studies exceeds the number of documents.

Initially, the distribution of the totality of the studies was analyzed, based on characteristics and quality index. Then, the studies were categorized based on the key populations—and the distribution of scores for each stratum was assessed. Finally, the studies were stratified by the type of methodological limitations encountered.

## **Types of document**

**Peru’s** database has 47 scientific articles (83%), seven technical reports (12%), and three PowerPoint (PPT) presentations (5%). **Ecuador’s** database has 18 scientific articles (45%), 16 technical reports (40%), three theses/monographs (7.5%), two PPT presentations (5%), and one poster presentation (2.5%). **Bolivia’s** database has 19 technical reports (76%) and six scientific articles (24%) (Figure 6).

**Figure 6. Type of documents compiled, by country. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>Poster<br>60%<br>Thesis<br>50%<br>PPT<br>40%<br>Technical report<br>30%<br>Scientific paper<br>20%<br>10%<br>0%<br>Peru n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

20
**Findings:** As shown in Figure 6, the main information sources in all three countries were scientific articles and technical reports.  However, the proportion of each differed: in Peru, most were scientific articles; in Bolivia, most were technical reports; in Ecuador, there was a similar number of each.

# **Publication status**

In Peru, 47 documents had been published in journals with peer reviews (82%); seven were one-time technical publications (12%)—(as opposed to periodic publications); one was a preliminary report (2%); and two had no available publication status data (4%). In **Ecuador** , 12 documents were published in journals with peer reviews (30%); nine were one-time technical publications (22.5%); two were publications from an official bulletin (5%); 13 had not been published (32.5%); and four had no available publication status data (10%). In **Bolivia** , 13 documents were one-time technical publications (52%); five were published in journals with peer reviews (20%); one was from an official bulletin (4%); and six had not been published (24%) (Figure 7).

# **Figure 7. Publication status of the documents compiled, by country. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90% Unpublished/Status<br>unknown<br>80%<br>70%<br>Official Bulletin<br>60%<br>50%<br>40% One-time technical<br>publication<br>30%<br>20%<br>Published in journals<br>10% using peer review<br>0%<br>Peru n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from the _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

21
**Findings:** The proportion of scientific articles in the databases is the same as the proportion of documents published in peer-reviewed scientific journals (“AIDS”, “Sexually Transmitted Diseases” and “The Pan American Journal of Public Health” are examples of such publications).  Among the three Andean countries, Peru had the highest proportion of papers published in these journals, probably due to the fact that it has one of the longest records in HIV research in Latin America.  Peru’s academic sector has been actively involved in the process since the beginning of the epidemic.  Ecuador, on the other hand, is the country with the highest proportion of non-published papers or papers without publication status data (40%). In Bolivia, the proportion of non-published papers is 25%. Non-published papers have an impact on the use and quality of the information; nonpublished papers complicate access to information and the socialization of the findings. They generally make the papers produced weaker, because they have not undergone the detailed and enriching process of peer review.

# **Type of epidemiological design**

In **Peru** , 49 documents used various kinds of cross-sectional designs (86%). Among these, 28 documents used cross-sectional serological surveys supplemented by surveys with socio-demographic and behavior variables (49%); 18 used knowledge, attitudes and practice (KAP) surveys (32%); and three used STI bacteriological studies supplemented by socio-demographic surveys (5%). Of the remaining eight documents (14%), there were four cohort studies (7%), two case-control studies (3%), one case series study (2%), and one clinical trial (2%). In **Ecuador** , 36 documents used various kinds of cross-sectional designs (90%). Among these, 20 documents used KAP surveys (50%); 10 used serological surveys with or without supplementing KAP surveys (25%); and six included crosssectional survey studies about other issues (15%). Of the remaining four documents (10%), there was one experimental design study, one quality-control study for laboratories, one census, and one case series study. In **Bolivia** , 24 documents (96%) used cross-sectional design or survey design with different variations. Among these, 16 documents used KAP surveys (64%); seven used HIV serological surveys with or without supplementing KAP surveys (28%); and one was a syphilis serological survey (4%). The remaining document used a longitudinal design, made up by a cohort of people living with HIV (4%).

In Figure 8 below, cross-sectional studies or surveys and their variations appear in different shades of blue.

22
# **Figure 8. Epidemiological designs of studies compiled, by country.  Andean Region; 2009**

<!-- Start of picture text --> 100%<br>Other<br>90%<br>Experimental/Clinical<br>trials<br>80%<br>Case series<br>70%<br>Case-control<br>60%<br>Cohort studies<br>50%<br>Other survey studies<br>40%<br>30% KAP survey<br>20%<br>Serological survey<br>with/without KAP<br>10% survey<br>0%<br>Peru n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** As Figure 8 above clearly shows, cross-sectional studies and surveys constituted between 86 to 96% of the total group of studies compiled in each of the three countries assessed. The differences can be attributed to the fact that in Peru research has focused on serological prevalence studies supplemented by demographic and behavior surveys, while in Ecuador and Bolivia research has focused on KAP surveys.  One possible explanation for the difference is that serological survey studies are more expensive and require more logistical support.

It should also be noted that these three countries have demographic and health surveys (DHS) conducted by their respective National Statistics Institutes. These surveys include KAP about HIV; they have national outreach and focus on the general population. Because they are carried out periodically and with consistent methodology, such surveys can be 23
reliable sources of information that help to analyze national trends, local behavior and knowledge about HIV within the general population.

# **Populations engaged by the study**

As stated previously, Peru, Bolivia and Ecuador each have HIV epidemics concentrated in key groups, such as MSM, prisoners and sex workers. Therefore, the assessment evaluated how these populations were represented within the studies done.

Looking at the **priority populations** from studies done in **Peru** , 62.5% were done on key populations. Among these, 19% were done on MSM; 14% on sex workers; 7% on people living with HIV; 5% on prisoners; and 17.5% on other most-at-risk populations, such as clients of sex workers and people with STIs. Least-at-risk populations represented 37.5% of the research. Among these, 17.5% were done on the general population; 9% on youth; 4% on pregnant women; and 6.5% on other least-at-risk groups. In **Ecuador** , 58.9% of the studies were done on key populations. Among these, 19.6% were done on female sex workers; 16.1% on MSM; 10.7% on prisoners; 8.9% on people living with HIV; and 3.6% on people with STIs. Least at-risk populations represented 41.1% of the research. Among these, 19.6% were done on youth; 14.3% on the general population; 3.6% on women who had recently given birth; and 3.6% on other least-at-risk groups. In **Bolivia** , 37% of the studies were done on key populations. Among these, 13% were done on MSM; 8% on male and female sex workers; 5% on people living with HIV; 5% on people with STIs; 3% on prisoners; and 3% on other most-at-risk populations. Least-at–risk populations represented 63% of the research. Among these, 18% were on the general population; 13% on youth and adolescents; 13% on pregnant women and women who recently had given birth; and 19% on other least-at-risk groups.

In Figure 9 below, most-at-risk populations have been graphed in shades of blue and the least-at-risk in shades of red in order to facilitate comparisons among both groups.

**Figure 9. Priority population of the studies compiled, by country. Andean region; 2009**

<!-- Start of picture text --> 100%<br>Other less vulnerable groups<br>90%<br>80% Pregnant and Postpartum<br>Women<br>70%<br>Youth<br>60%<br>50% General Population<br>40%<br>Other most vulnerable groups<br>30%<br>20% People with HIV<br>10%<br>Prisoners<br>0%<br>Peru n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

24
**Findings:** As can be expected in concentrated epidemics, in Peru and Ecuador most of the studies (nearly 60%) were done on most-at-risk populations. However, in Bolivia only 37% of the studies were done on most-at-risk populations.  This important finding could be attributed to multiple causes, ranging from research agendas that did not focus their efforts on these groups, to specific difficulties regarding approaching and working with hard-to-reach populations.

# **Analysis of methodological content**

Once the first phase was completed, ASAP began the methodological content analysis based on the eight evaluation criteria, and calculated the distribution of the quality scores for each country. As was mentioned earlier, the lowest possible score is 0 and the highest is 11; a score of 8-11 points is considered to be of **high methodological quality** ; a score of 5-7 is considered to be of **intermediate methodological quality** ; and a score of 0-4 is considered to be of **limited methodological quality** .

In **Peru** , there was an asymmetrical score distribution, around an average score of 9 points. The distribution had a median and a mode of 9 points. The measure of dispersion had a range of 3-11 points. Eighty-two percent of the studies had high methodological quality; 15% had intermediate quality; and 3% had limited quality. In **Ecuador** , the score distribution was also asymmetric. The studies were grouped around the most frequent value or mode of 9 points. The distribution had a median of 8 points. The measure of dispersion had a range of 2-11 points. Fifty-two percent of the studies had high methodological quality; 27% had intermediate quality; and 21% had limited quality. In **Bolivia** , the distribution had a median and mode of 8 points. The measure of dispersion had a range of 4-11 points. Sixty-eight percent of the studies had high methodological quality; 28% had intermediate quality; and 4% had limited quality (Figure 10).

In contrast to previous figures, Figure 10 does not use the stacked bar chart with the percentage components to allow for the appreciation of the quantity of documents evaluated in each country. In these graphs, traffic light colors are used to identify the documents according to their scores for methodological quality.

25
# **Figure 10. Methodological quality of the compiled studies, by country. Andean Region; 2009**

<!-- Start of picture text --> 60<br>50<br>40<br>Limited<br>30<br>Intermediate<br>High<br>20<br>10<br>0<br>Peru n= 57 Ecuador n= 40 Bolivia n= 25<br>Number of documents<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** The distribution of the methodological quality scores presented a median value of 9 in Peru and 8 in Ecuador and Bolivia.  High methodological quality studies represented 82% of the total in Peru; 68% in Bolivia; and 52% in Ecuador.  There is a clear correlation between the proportion of published studies with peer review and those judged to have sound methodology.

# **Stratification according to priority populations and methodological quality**

ASAP categorized the studies according to the priority populations and analyzed the methodological quality found in each group.

# **Men who have sex with men**

In **Peru’s** database, there were 15 studies done on populations of men who have sex with men. The distribution had a median of 9 points. Eighty percent of the studies had high methodological quality; 13% had intermediate quality; and 7% had limited quality. In Ecuador, there were nine studies done on MSM populations. The distribution had a median of 8 points. Fifty-six percent of the studies had high methodological quality; 33% had intermediate quality; and 11% had limited quality. In Bolivia, there were five studies done on MSM populations. The distribution had a median of 6 points. Twenty percent of 26
the studies had high methodological quality; 60% had intermediate quality; and 20% had limited quality (Figure 11).

**Figure 11. Methodological quality of the studies in MSM populations, by country. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>60%<br>Limited<br>50%<br>Intermediate<br>40%<br>High<br>30%<br>20%<br>10%<br>0%<br>Peru n= 15 Ecuador n= 9 Bolivia n= 5<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** In Peru and Ecuador, the proportion of studies in MSM populations with sound methodological content was similar to the proportion observed in the general analysis for all studies (80% vs. 82% in Peru; and 56% vs. 52% in Ecuador).  In Bolivia, the percentage of studies in MSM populations with sound methodological quality was far lower than the proportion for all studies (20% vs. 68%). This finding reveals that in Bolivia, there have been proportionally fewer studies in key populations and their methodological quality is lower than the general median.

# **Female sex workers**

In the Peru’s database, there were 11 studies done on female sex workers. Seventy-three percent of them had high methodological quality; 18% had intermediate quality; and 9% had limited quality. In Ecuador, there were eleven studies done on female sex workers. Forty-five percent of them had high methodological quality; 45.5% had intermediate quality; and 9% had limited quality. In Bolivia, there were three studies done on female sex workers. One had high methodological quality (33.3%); and two had intermediate quality (66.6%) (Figure 12).

27
# **Figure 12. Methodological quality of the studies on female sex workers. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>60%<br>Limited<br>50%<br>Intermediate<br>40%<br>High<br>30%<br>20%<br>10%<br>0%<br>Peru n= 11 Ecuador n= 11 Bolivia n= 3<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** A comparison of Figure 11 and Figure 12 shows that the quality breakdown is similar in each country.  The proportion of both MSM and female sex worker studies with high methodological quality accounted for approximately 75% of the total in Peru, 50% in Ecuador and 25% in Bolivia.  When compared to the average of all studies, the studies of female sex workers in Bolivia were few in number, and weak from a methodological point of view.

# **Prisoners**

In **Peru’s** database, there were four studies done on prisoners. Three of them had high methodological quality; and one had limited quality. In **Ecuador,** there were six studies done on prisoners. Three of them had high methodological quality; two had intermediate quality; and one had limited quality. In **Bolivia,** there was only one study done on prisoners. It had high methodological quality (Figure 13).

In Figure 13, the data was represented in absolute values, because of the small number of studies analyzed.

28
# **Figure 13. Methodological quality of the studies of prisoners, by country. Andean Region; 2009**

<!-- Start of picture text --> 7<br>6<br>5<br>4<br>Limited<br>Intermediate<br>3<br>High<br>2<br>1<br>0<br>Peru n= 4 Ecuador n= 6 Bolivia n= 1<br>Number of documents<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** In Peru and Ecuador—although the number of studies involved is small—the proportion of methodologically sound studies appears to have the same tendency as other population groups analyzed in both countries.

# **People living with HIV**

It should be noted that the databases only included studies that were related to the HIV epidemic and that were deemed useful to decision-making and policy design. Documents having only clinical content were excluded: for example, documents were excluded that related to treatments, side effects of medication, and studies on lymphocyte function.

In **Peru’s** database, there were six studies done on people living with HIV. Four of them had high methodological quality; two had intermediate quality; and two had limited quality. In **Ecuador** , there were five studies done on people living with HIV. None of them had high methodological quality; one had intermediate quality; and the other four had limited quality. In **Bolivia** , there were two studies done on people living with HIV. Both had intermediate methodological quality (Figure 14).

29
# **Figure 14. Methodological quality of studies on people living with HIV, by country. Andean Region; 2009**

<!-- Start of picture text --> 7<br>6<br>5<br>4<br>Limited<br>Intermediate<br>3<br>High<br>2<br>1<br>0<br>Peru n= 6 Ecuador n= 5 Bolivia n= 2<br>Number of documents<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** Figure 14 clearly shows that no high methodologically quality studies done on people living with HIV were found in either Ecuador or Bolivia.  Hence, the evidence on people living with HIV is a major information gap in both countries.

# **General population**

In **Peru’s** database, there were 14 studies done on the general population. Thirteen of them had high methodological quality (93%); and one had intermediate quality (7%). In **Ecuador,** there were eight studies done on the general population. Five of them had high methodological quality (62.5%); one had intermediate quality (12.5%); and two had limited quality (25%). In **Bolivia** , there were seven studies done on the general population. Six of them had high methodological quality (86%); one had intermediate quality (14%) (Figure 15).

30
# **Figure 15. Methodological quality of the studies in general population, by country. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>60%<br>Limited<br>50%<br>Intermediate<br>40%<br>High<br>30%<br>20%<br>10%<br>0%<br>Peru n= 14 Ecuador n= 8 Bolivia n= 7<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** The following statement held true for each of the three Andean countries: the proportion of its studies of the general population that had high methodological quality was significantly larger than the proportion of its overall database of studies that had high methodological quality.  This is most likely due to the simple fact that the general population is easier to access than more narrowly-defined groups.

# **Youth and adolescents**

In **Peru** , there were seven studies done on youth and adolescents. Six of them had high methodological quality (86%); and one had intermediate quality (14%). In **Ecuador,** there were 11 studies done on youth and adolescents. Seven of them had high methodological quality (64%); two had intermediate quality (18%); and two had limited quality (18%). In **Bolivia** , there were five studies done on youth and adolescents. All of them had high methodological quality (100%) (Figure 16).

31
# **Figure 16. Methodological quality from youth and adolescents studies, by country. Andean Region; 2009**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>60%<br>Limited<br>50%<br>Intermediate<br>40% High<br>30%<br>20%<br>10%<br>0%<br>Peru n= 7 Ecuador n= 11 Bolivia n= 5<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

**Findings:** Figures 15 and 16 are very similar, which implies that in each of these countries the methodological quality is similar for studies done on the general population and for studies done on youth and adolescents.  In all three countries, the proportion of high methodological quality studies done on youth and adolescents is above the average. This is most likely due to the same reason why it is true for studies done on the general population: it is easier to access youth and adolescents than most-at-risk groups such as MSM, injection drug users, and female sex workers.

# **Comparison of methodological quality scores among population groups**

In order to analyze whether the difference in quality observed among the studies of the different population groups was statistically significant, ASAP divided the studies into two groups: (i) one group comprised of the studies done on the general population and youth; and (ii) a second group comprised of the studies done on MSM, female sex workers and people living with HIV. To analyze if the difference was statistically significant, ASAP applied the non32
parametric test of Kruskal-Wallis2. This test is used to compare non-normal distributions, and weighs the probability that the difference observed among such distributions is merely a product of chance. In all three of the Andean countries, the quality score of the studies on MSM, female sex workers and people living with HIV was significantly lower than the scores of the studies covering the general population and youth. The differences were statistically significant with values of p=0.003 for Peru, p=0.05 for Ecuador, and p=0.001 for Bolivia. In all three countries, the conclusion is that the quality of the studies done in key populations is lower than the quality of studies on the general population.

# **The sources of methodological weakness**

The above analysis raises the question of whether the differences in the scores observed among the studies done in most-at-risk populations and the studies of the general population were due to some specific methodological limitation. To investigate this question, ASAP made an analysis of the weaknesses in each of the eight methodological criteria for each group. A general assessment of Figures 17 and 18 shows the weaknesses found by criteria through this analysis.

Selection bias—which was taken into account in the variable “sampling technique”—was the criteria that presented the most weaknesses in the studies done on most-at-risk populations: 90-92% of such studies utilized convenience sampling. By contrast, probabilistic samples were obtained in most of the studies done on general populations, and only 10-40% used convenience sampling. This was true for all three countries, and accounts for the difficulty in obtaining probabilistic sampling in most-at-risk populations. Among the studies evaluated, a minimum proportion of studies were found that used the respondent driven sampling technique; no study was found that used the TSS (time space sampling technique).

Obtaining an adequate **sample size** was the criterion that presented the second most weaknesses in the studies done on most-at-risk populations. This was observed in all three countries, although the difference was more evident in Bolivia and Peru than in Ecuador. Insufficient sampling size results in studies that lack statistical power. It is possible that this criterion is also linked to the difficulty of accessing hard-to-reach populations.

The presence of weaknesses in other criteria does not seem to follow a pattern linked to the exposure of certain population groups to HIV. Among these, the most common weakness was the failure to **consider the limitations** imposed by the methodology implemented. The studies done on the general population and on youth in Peru and Ecuador more frequently had weaknesses regarding this issue. However, in Bolivia the opposite was observed.

> 2 In statistics, the Kruskal-Wallis test is a non-parametric method developed to prove whether a set of data come from the same population. The traditional ANOVA assumes normalcy in the data; the Kruskal-Wallis does not, because it is a non-parametric test. The Kruskal-Wallis test does assume—under the null hypothesis—that the data comes from the same distribution.

33
# **Figure 17. Origin of methodological weakness in studies done in key populations, by country. Andean Region; 2009**

<!-- Start of picture text --> Defines objective<br>Inclusion criteria<br>Sample size<br>Sampling technique<br>Technique for reducing data collection errors<br>Analytical technique<br>Describes limitations<br>Calculation of statistical errors and/or p<br>value<br>0 10 20 30 40 50 60 70 80 90 100<br>Percentage of studies<br>Peru n= 32 Ecuador n= 25 Bolivia n= 10<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

34
# **Figure 18. Origin of methodological weakness in studies done in general populations and youth, by country. Andean Region; 2009**

<!-- Start of picture text --> Defines objective<br>Inclusion criteria<br>Sample size<br>Sampling technique<br>Technique for reducing data collection errors<br>Analytical technique<br>Describes limitations<br>Calculation of statistical errors and/or p<br>value<br>0 20 40 60 80 100<br>Percentage of studies<br>Peru n= 21 Ecuador n= 19 Bolivia n= 12<br><!-- End of picture text -->

**Source:** Authors’ calculation using information from _Database and References for an Evidence-based Strategy_ in Peru, Ecuador and Bolivia.

35
**Findings:** Sampling technique and adequate sampling size were the methodological criteria that most frequently presented weaknesses. Both methodological limitations presented themselves more frequently in the studies done in most-at-risk populations, probably due to the stigma, discrimination and illegality that are present when working with such hard-to-reach populations. The third criterion that frequently presented weaknesses was the failure to describe the study’s limitations. However, unlike the two aforementioned criteria, there was no clear pattern regarding which type of focus populations exhibited weaknesses in this criterion.

# **Discussion**

The compilation of this evidence and its analysis is based on the concept of making information more available for the process of HIV and AIDS-related strategic planning that is evidence-based and results-oriented. In such a planning process, information is used to establish baseline values, indicators and expected goals. If the information available is consistent through time, it will allow trends in the epidemic and results obtained to be evaluated as outcomes of the management and planning of the national response. In this iterative process, knowing the results will allow for evaluation of the efficacy of the implemented strategy and the need for re-direction or re-design of the plans.

# **Peru**

In Peru, there was a homogeneous set of documents, composed mostly of scientific articles published in international journals that conduct exhaustive peer reviews.

Research studies have been undertaken among a variety of population groups, with varying degrees of exposure to HIV—but almost two-thirds of the research in Peru corresponds to the most-at-risk populations. Prevalence, and socio-demographic and behavior variables have been studied in almost all population groups. However, data has not been compiled on HIV in relation to people with disabilities. Studies done in other regions suggest that this group could have a higher risk of acquiring HIV<sup>(24, 25, 26)</sup> . People with disabilities are also frequently considered hidden populations, not because of any issues of illegality, but because often societies “don’t see” them or else consider that they are not especially at risk of acquiring HIV.

The epidemiological design adopted by most of the studies in question is cross-sectional. Some of the studies have done several cross-sections in certain populations, implementing the same methodology over a period of time. This strategy does not generate the same evidence as monitoring a cohort (where the same individuals are tracked), but it does allow for the evaluation of temporary changes and can establish trends.

Most of the studies included in Peru’s database have sound methodological quality. The studies that presented a quality index of 8 points or more represented 82% of the total. This reflects the important history of HIV research in Peru since the beginning of the epidemic. Throughout the years, Peruvian research has had the active participation of 36
nationally and internationally-recognized institutions. This view coincides with that of other reviews<sup>(27)</sup> .

The quality scores for the studies done on the general population, and adolescents and youth, were found to be higher than the ones done on MSM and female sex workers. The difference between them is statistically significant. The most frequent limitations found in the studies done on the most-at-risk populations were inadequate sample size and participant selection bias; in most of these studies convenience sampling was utilized. These methodological obstacles are much more difficult to sort out when working with hard-to-reach populations, due to the stigma and discrimination frequently faced by its members. The use of new sampling strategies for hard-to-reach populations, such as TSS (time space sampling), represent a challenge for future investigations.

# **Ecuador**

In Ecuador, there was a heterogeneous set of documents, mostly made up of technical reports and scientific articles, but also including PowerPoint presentations and one poster presentation. Only 60% of these studies had been published at the time of data compilation. The lack of publication not only limits dissemination of the results, but also contributes to generating studies with methodological limitations. It is more desirable to promote the submission of manuscripts to journals that have a peer review process. Peer review can provide options and point out aspects that in the end will contribute to improving the quality of the study’s results.

Almost 60% of the studies were conducted in key HIV populations. Among the population groups considered at lower risk, the studies conducted on youth were the most frequent; studies on youth constituted nearly 20% of the total studies.

The methodological quality among all the studies is quite dispersed. Approximately half of the studies had high methodological quality scores, one quarter had intermediate quality, and the remaining quarter had limited quality. In the studies done on MSM and female sex workers, selection bias and inadequate sample size were the main causes of methodological weakness. The majority of studies done on people living with HIV had limited methodological quality. However, a single cause for the flaws within this group could not be identified, due to the fact that almost all of the assessed characteristics had some weakness.

An important number of KAP studies have been compiled through ASAP’s activities. Sixty percent of these studies had high methodological quality. However, this did not hold true for HIV serological studies—in addition to being done less frequently, only about 40% of such studies had high methodological quality. The analysis of syphilis and other STI studies found a more serious scenario, where only two studies were analyzed and one of them was of limited methodological quality. For this reason, the information on syphilis and STI prevalence represents a critical information gap. These issues must be included in 37
each country’s research agenda, since these infections are not only important in and of themselves but also have significant relevance to the spread of HIV.

## **Bolivia**

In Bolivia, a total of 25 documents were included in the characterization and assessment phase, most of which were technical reports. A quarter of them had not been published at the time of assessment.

Almost all of the studies had a cross-sectional design with different variations, with KAP surveys being the most frequent. In both Bolivia and Peru, the methodological quality of the KAP surveys was inferior to the HIV serological surveys.

Only a third of the studies in Bolivia were done in most-at-risk populations. Among those groups, MSM and female sex workers were prioritized. The conclusion is that the overall prioritization of HIV-related studies in Bolivia does not match the type of concentrated epidemic that is present in Bolivia. This suggests a need to re-orient research objectives to the groups where the epidemic is most concentrated.

Approximately 70% of the studies had high methodological quality. However, this is not true for all population groups—the quality of the studies done in most-at-risk groups is significantly worse than those done in the general population. Of the three Andean countries, Bolivia is the one where this difference is most significant. The conclusion is that the studies done in key Bolivian populations are proportionally less and of lesser methodological quality. As discussed above, this suggests the need to re-prioritize the country’s research agenda towards those groups where the burden of the epidemic is more pronounced.

This analysis did not aim to evaluate aspects related to the standardization of the operational variables. All the same, it is important to point out that a wide variation in the operative definitions used was observed in the region. This variation limits the possibility of comparing the studies either across time or across geographical regions. Each of these countries needs to consider adopting a more consistent use of indicators and stronger prioritization of UNGASS indicators in their respective research agendas. It is important to establish guidelines and standards for the definition of operational variables in order: (i) to strengthen the evidence related to HIV and other STIs; (ii) to guide the research; and (iii) to guarantee the dissemination and use of data when planning the response to the spread of the HIV epidemic.

# **Conclusions about the use and usefulness of the tool**

- The absence of simple tools for assessing the quality of existing HIV data has motivated the development of this checklist tool.

- The experience of implementing this tool in Latin America proved to be easy and feasible.  The tool permitted a group of users to assess more than 300 research

38
studies. During the assessment process, high levels of consistency were found among the users, suggesting that the tool is accurate.

- The tool was able to differentiate those studies in the databases with higher capacity to generate methodologically sound information. This practical approach identified the studies that implemented strategies and designs that increased confidence in the results.

- The implementation of the tool promoted an in-depth, methodological analysis of each study; this process was very useful as the first phase of the data triangulation process.

- Because the tool focuses on data quality, it has helped to redefine information gaps. This was especially true for certain population groups and issues, where the data assessment identified studies that were not methodologically sound.

- The implementation of this methodology has identified the primary methodological obstacles faced by local researchers when studying different population groups; it has also identified possible solutions.

- The use of this tool is expected to contribute to increased knowledge of the HIV epidemic and to promote better methodological quality within HIV studies; these advancements will help guide responses to the advance of the virus.

39
# **<mark>References</mark>**

1. ONUSIDA/09.36S. 2009. “Situación de la epidemia de sida, diciembre de 2009”. <u>http://data.unaids.org/pub/Report/2009/jc1700_epi_update_2009_es.pdf</u>

2. UNAIDS/WHO. 2002. “Initiating Second Generation HIV Surveillance System: Practical Guidelines. UNAIDS/WHO Working Group on Global HIV/AIDS and STI Surveillance”. - <u>http://data.unaids.org/Publications/IRC pub02/jc742 initiatingsgs_en.pdf</u> 3. UNAIDS/WHO. 2004. “Second Generation Surveillance for HIV: The Next Decade”. - <u>http://data.unaids.org/publications/irc pub01/jc370 2ndgeneration_en.pdf</u> 4. Rodríguez-García R, World Bank Group. 2007. “Planning and Managing for HIV/AIDS Results. A Handbook”. <u>http://siteresources.worldbank.org/INTHIVAIDS/Resources/375798 1103037153392/Results_Handbook_31Oct2007.pdf</u> 5. Atkins D, Best D, Briss PA, et al. 2004. "Grading quality of evidence and strength of recommendations". BMJ 328 (7454): 1490 6. World Health Organization. 2009. “HIV Triangulation Resource Guide”. <u>http://data.unaids.org/pub/Manual/2009/20090915_hiv_triangulation_resource_guid e_en.pdf</u> 7. Downs S, Black N. 1998. “The feasibility of creating a checklist for the assessment of the methodological quality both of randomized and non-randomised studies of health care interventions”. J Epidemiol Community Health 1998; 52; 377-384.

8. World Health Organization. 1999. “Sexually Transmitted Infections Prevalence Study Methodology. Guidelines for the implementation of STI prevalence surveys”. <u>http://www.wpro.who.int/internet/resources.ashx/HSI/docs/Guidelines_for_the_Impl ementation_of_STI_Prevalence_Surveys.pdf</u> 9. Aschengrau, A. 2003. “Essentials of Epidemiology in Public Health”. Sudbury Mass.: Jones and Barlett.

10. Gordis, L. 2004. “Epidemiology”. Third Edition, Elsevier Saunders.

11. Girden, E. 2001. “Evaluating Research Articles from Start to Finish”. Second Edition, Sage Publications.

12. Hernandez-Avila, M. y col. 2000. “Diseño de estudios epidemiológicos”. Salud pública de México / vol.42, no.2, marzo-abril de 2000.

13. Szklo M. 2006. “Quality of scientific articles”. Rev Saúde Pública 2006; 40 (N Esp):30-5.

14. Velasco, V. y col. 2003. “Muestreo y Tamaño de Muestra. Una guía práctica para personal de salud que realiza investigación”. e-libro.net. Buenos Aires 15. Salganik M, Heckathorn D. 2004. “Sampling and Estimation in Hidden Populations Using Respondent-Driven Sampling”. Sociological Methodology, Vol. 34. (2004), pp. 193-239 16. Muhib F, Lin L, et al. 2001. “A venue-based method for sampling hard-to-reach populations”. Public Health Rep. 2001; 116(Suppl 1): 216–222.

17. UNAIDS/WHO/UNICEF. 2008. “Epidemiological fact sheets on HIV and AIDS”. <u>http://www.unaids.org/en/KnowledgeCentre/HIVData/Epidemiology/epifactsheets.as p</u> 40
18. CARE-Perú. 2008. “Cuarta Medición de Indicadores de los Objetivos 2-4 del Componente VIH”. http://www.bvcooperacion.pe/biblioteca/handle/123456789/6135 19. Bautista, C.T., Sánchez J.L., Montano S.M., Laguna-Torres V.A., Lama J.R., Kusunaki L., y Carr J.K. 2004. “Seroprevalence of and risk factors for HIV-1 Infection among South American men who have sex with men”. Sex Transm. Infect. 2004 80:498-504 20. Ministerio de Salud y Deportes, ONUSIDA, OPS/OMS, USAID, CDC, IBIS-HIVOS. 2008. ” Estudio de Sexualidad Masculina y VIH en Bolivia (SEMVBO) ”. La Paz, Bolivia 2010 21. Ministerio de Salud, Estrategia Sanitaria Nacional de ITS/VIH/SIDA, Coordinadora Nacional en Salud, ASAP, Perú. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

22. Programa Nacional de Prevención y Control del VIH/SIDA-ITS del Ministerio de Salud Pública, ASAP, Ecuador. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

23. Ministerio de Salud y Deportes Programa Nacional ITS/VIH/SIDA, ASAP, Bolivia. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

24. Maart S, Jelsma J. 2010. “The sexual behaviour of physically disabled adolescents”. Disabil Rehabil. 2010;32(6):438-43.

25. Heidari S, Kippax S. 2009. “Special theme on HIV and disability - time for closer bonds”. J Int AIDS Soc. 2009 Nov 9;12(1): 26. Rohleder P, Braathen SH, Swartz L, Eide AH. 2009. “HIV/AIDS and disability in Southern Africa: a review of relevant literature”. Disabil Rehabil. 2009;31(1):51-9. PubMed PMID: 19194810.

27. Cáceres CF, Mendoza W. 2004. “Monitoring Trends in Sexual Behaviour and HIV/STIs in Peru: Are Available Data Sufficient?”. Sex Transm Infect 2004; Suppl 2:ii80-4.

41
# **<mark>Annex 1: Document Quality Assessment Tool</mark>**

## **Characterization of documents**

## **1. Type of document**

The great variety of documents submitted as data sources makes it essential to determine the type of each one based on structural characteristics.

##  **Scientific article or manuscript:**

This type of document has a structure that follows a set format and includes different sections: summary, introduction, objective, materials, methods, results, discussion, conclusions and references.

##  **Abstract:**

Only an abstract of the study is available; the entire document cannot be accessed.

##  **Poster:**

These are presentations prepared in poster form in a variety of scientific and academic contexts. Even though they have the same structure and organization as the scientific documents, the sections are presented in a short version due to the space available.

##  **PowerPoint presentations :**

The presentation of information in an electronic format such as PowerPoint or other similar presentation program and text outline format.

##  **Technical report:**

Technical reports may be classified according to their level of review: a preliminary report (a version that will be submitted for further review) and final report (the final version). If the length of the report is taken into account, such documents can be classified as summary or full-length report.

##  **Monograph/thesis:**

These are full-length documents submitted by future professionals; they provide in-depth analysis of a research topic. The basic structure is similar to scientific articles; these documents are generally available at universities.

##  **Reports by the Epidemiology department of a Ministry of Health:**

These documents are active and passive epidemiology reports (cases, laboratory, blood banks, etc.) and program reports.

42
# **2. Status and form of publication**

It is important to know the status of publication of the studies and documents, as well as the medium through which they were disseminated. The status of publication can be characterized as follows:

#  **Published in scientific journals with a peer review process:**

- Before they are accepted, the works published in these journals are subject to a detailed analysis of their methodological characteristics, by a committee of experts.

#  **Published in a peer review journal:**

The studies published through this medium do not count on the same “quality control” defined by the group of experts defined above.

#  **Official publication:**

These are studies or data disseminated through periodical publications of the Ministry of Health, such as bulletins or official gazettes.

#  **Government, civil society or agency one-time technical publications:**

- These are isolated, non-periodical publications that employ technical language. They may appear published in print or be available on the Internet.

#  **Publication intended for the general public:**

These publications utilize non-technical language and are aimed at the general public. They do not usually address the methodological details of the study. They can be one-time or periodical, and they can either appear in print or on the Internet.

#  **Unpublished:**

These documents have not been published formally, nor are they available on the Internet.

#  **No Data:**

No information has been found on the publication status of the document.

# **3. Design**

Because of the different situations presented in research, different types of designs for epidemiological studies have been defined. The selection of the right design is very important for the success and effectiveness of a study. Design types are classified as:

- Prospective cohort

- Retrospective cohort

- Clinical trial or experimental study

- Case-control study

43
- Cross-sectional, also known as survey or prevalence studies:

- Serological survey

- Knowledge, attitudes and practices survey

- Demographic and health surveys

- Cross-sectional studies of other topics

- Case series studies

- Others

# **4. Priority population or universe**

This item takes into account the population engaged by each study:

- People living with HIV

- Men who have sex with men

- Female/male sex workers

- Injection drug users

- Prisoners

- Migrant population

- Pregnant women

- General population

- Youth

- Other populations as defined by the country

# **Evaluation of methodological content**

ASAP defined eight items or characteristics linked to “best practices”. Analysis of these methodological characteristics yields important information, such as the existence of bias, statistical significance, or the feasibility of generalizations based on the findings. For each criterion, a question with yes/no answer has been defined. If the answer is positive, one point is awarded; if it is negative, no points are awarded. Three of these items are doubleweighted because of their critical importance. If the answer to a double-weighted criterion is positive, it is multiplied by a factor of two. These double-weighted criteria are: (i) sample size; (ii) sampling technique; and (iii) techniques to reduce data collection errors. Finally, the results are added up, to obtain a total score that is regarded as the quality index of the methodological content. The score scale has a range of 0 to 11. Two cut-off points have been defined in this scale, establishing that a score of 8 or more represents high methodological quality; a score of 5 to 7 represents intermediate quality; and a score of 4 or less represents limited quality.

# **1. Objective of the study**

Is/are the objective(s) of the study clearly defined? Do the development and results of the study respond to the objective(s)? The answer to both questions should be yes.

**Yes= 1**

44
# **No= 0**

# **2. Inclusion criteria**

Were the inclusion/exclusion criteria for the study subjects established and specified? **Yes= 1**

**No= 0**

# **3. Sampling size**

Was the sample size determined to allow the study to have statistical significance? Was the number of subjects screened similar to the previously established sampling size? The answer to both questions should be yes.

**Yes= 1 (criterion weighted x2)**

**No= 0**

# **4. Sampling technique**

Were the study subjects selected using a probability sampling method? **Yes= 1 (criterion weighted x2) No= 0**

# **5. Techniques to reduce data collection errors**

Have actions been taken to minimize data collection errors?

**Yes= 1 (criterion weighted x2) No= 0**

# **6. Technical/logical description of the data assessment**

Does the study present or describe the data assessment plan, including univariate, bivariate and multivariate analysis (where appropriate) to answer the study’s objectives?

**Yes= 1**

**No= 0**

# **7. Limitations**

Does the study recognize, describe or evaluate the presence of limitations (biases) imposed by the methodology?

**Yes= 1**

**No= 0**

# **8. Statistical significance or confidence intervals**

Are the findings presented with an appropriate assessment of their confidence intervals and statistical significance?

**Yes= 1**

**No= 0**

45
# **Cut-off points in the total score:**

**8 points or more:** High methodological quality **5 to 7 points:** Intermediate methodological quality **4 points or fewer:** Limited methodological quality

Table 1A makes the transferring of the data collected for each study easier. An example of how to fill the table is shown on the following page.

46
# **Table 1A. Methodological Classification of the Studies Included in the Database. Country “X”, 2009**

||||||**ective**|**usion**<br>**on**<br>**n**|**T**<br>**es**<br>**ize**|**echnical**<br>**g**<br>**ue**|**Content**<br>**s**<br>**rrors**|<br>**al**<br>**ue**|**es**<br>**ns**|**al**<br>**ce**||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
||||||**j**|**cl**<br>**i**<br>**o**|**t**<br>**s**|**in**<br>|**e**<br>**e**|**ic**<br>|**b**<br>**o**|**c**<br>**n**||
|**N**<sup>**o**</sup>|**Type of**<br>**Document**|**Publication status**|**Type of study and**<br>**design**|**Population**|**fines ob**|**fines in**<br>**/ exclus**<br>**criteri**|**Calcula**<br>**sample**|**Sampl**<br>**techniq**|**Reduc**<br>**llection**|**Analyt**<br>**techniq**|**Descri**<br>**limitati**|**Statisti**<br>**significa**|**Maximum**<br>**score: 11**|
||||||**De**<br>|**De**<br>||**Weig**<br>|**co**<br>**hting**<br>|||||
||||||**1**|**1**|**2**|**2**|**2**|**1**|**1**|**1**||
|**1**|Monograph|Unpublished|Cross-sectional|Women who have<br>had a hysterectomy|1|1|0|0|0|0|0|1|3|
|**2**|Scientific<br>article|Journal with peer<br>review|Experimental|Students|1|1|0|1|1|1|1|1|9|
|**3**|Scientific<br>article|Journal with peer<br>review|Cross-sectional:<br>serological<br>survey<br>and KAP|MSM|1|1|1|0|1|1|1|1|9|
|**4**|Scientific<br>article|Journal with peer<br>review|Cross-sectional:<br>serological survey|Female sex workers|1|1|1|0|1|1|1|1|9|
|**5**|Scientific<br>article|Official bulletin|Cross-sectional:<br>serological survey|Oil workers|1|0|0|0|0|1|0|0|2|
|**6**|Scientific<br>article|Official bulletin|Cross-sectional:<br>serological<br>survey<br>and KAP|Female sex workers|1|0|0|0|1|1|0|1|5|
|**7**|Scientific<br>article|No<br>information<br>available|Cross-sectional:<br>KAP survey|Adolescent females|1|1|0|0|0|1|0|0|3|
|**8**|Technical<br>report|Technical<br>publication|Cross-sectional:<br>demographic<br>and<br>reproductive health<br>surve|General population|1|1|1|1|1|1|1|1|11|
||||y|||||||||||
|**9**|Technical<br>report|Unpublished|Cross-sectional:<br>KAP survey|MSM|1|0|1|0|1|1|0|0|6|
|**10**|Technical<br>|Technical<br>|Cross-sectional:<br>KAP survey|Youth|1|1|1|1|1|1|0|0|9|
||report|publication|Case series|Female sex workers|1|0|0|0|1|1|0|0|4|

KAP = Knowledge, attitudes and practices 47
# **<mark>Annex 2: Acknowledgements</mark>**

This paper benefited from a peer review process that included specialists who reviewed the English and Spanish versions of the paper. The authors wish to thank and acknowledge the following reviewers in alphabetical order by the first name for providing useful comments and insights: Amparo Gordillo Tobar, _Latin America and Caribbean Region, World Bank_ Andrea Boccardi Vidarte, _UNAIDS Latin America_ César Nuñez, _UNAIDS Latin America_ Claudia Velásquez, _UNAIDS Latin America_ Danilo Rayo, _Specialist, Nicaragua_ Hernán Laca, _Specialist, Uruguay_ Javier Jahnsen, _Specialist, Bolivia_ Marcelo Bortman, _Latin America and Caribbean Region, World Bank_ Marjolein Jacobs, _UNAIDS Latin America_ Olivier Grégoire, _Specialist, Belgium_ Patricia Bracamonte, _UNAIDS Latin America_ The authors are also deeply grateful to Claudia J. Santos for her translation and editorial services. A special thank you goes to Mario Méndez of the Global HIV and AIDS Program, HNP, HDN, World Bank for his invaluable translation and administrative support provided to the team. Any error or omission in the paper is that of the authors only and does not implicate in any way the above individuals who graciously provided feedback and advice.

48
# **METODOLOGÍA PARA EL ANÁLISIS DE LA CALIDAD DE LOS DATOS: IMPLEMENTACIÓN EN PROGRAMAS DE VIH Y SIDA EN LATINOAMÉRICA**

Rosalía Rodriguez-García, Michel Eric Gaillard, Alejandra Suarez Lissi, and Pedro Magne Condarco<sup>1</sup>

## Banco Mundial

**Extracto:** La evidencia es un aspecto crucial en la planificación estratégica de la respuesta del VIH como también el monitoreo de los resultados. Este documento presenta una herramienta sencilla que puede ser usada para analizar la calidad metodológica de datos de VIH, el grado de confiabilidad de sus hallazgos y la posibilidad de ser comparados. La herramienta, utilizada como cuestionario o lista de verificación,   inicialmente identifica el tipo de documento, estado y medio de publicación, tipo de diseño epidemiológico empleado y la población objetivo de investigación. Luego se aplica una lista de verificación basada en 8 criterios metodológicos: 1) Objetivo claro y coherente con el desarrollo del estudio; 2) Definición de criterios de inclusión y exclusión; 3) Tamaño de la muestra; 4) Técnica de muestreo; 5) Estrategias para disminuir el error de recolección de datos; 6) Técnica de análisis de los datos; 7) Evaluación de limitaciones impuestas por la metodología; 8) Expresión de intervalos de confianza y/o significación estadística. El documento también presenta los resultados de implementación de la herramienta en tres países latinoamericanos.

## <u>Palabras clave: Calidad de los datos, VIH y SIDA, Región Andina</u>

> 1 Los autores son personal o consultores del Programa Global de VIH y SIDA, Salud, Nutrición y Población (HNP, por sus siglas en inglés), Red para el Desarrollo Humano (HDN, por sus siglas en inglés). El documento se benefició de un proceso de revisión de pares que incluyó especialistas que revisaron las versiones en inglés y español.  Los autores desean agradecer y reconocer los revisores que figuran en el apéndice por haber proporcionado sus comentarios útiles como también sus puntos de vista.  Los autores desean también reconocer el apoyo de David Wilson, Director del Programa Global de VIH y SIDA del Banco Mundial. Las opiniones expresadas en este documento son únicamente de los autores y no necesariamente representan los puntos de vista del Banco Mundial ni de sus Directores Ejecutivos de los países que estos representan.
# **<mark>Contenido</mark>**

|Prólogo .................................................................................................................................... 5|
|---|
|Acrónimos ............................................................................................................................... 6|
|Resumen ejecutivo ................................................................................................................. 7|
|Metodología para el análisis de la calidad de los datos ......................................................... 9|
|Introducción ....................................................................................................................... 9|
|Uso de la evidencia para informar la toma de decisiones ............................................. 9|
|¿Por qué es importante analizar la calidad de los datos? ............................................ 10|
|Metodología para el análisis de la calidad de los datos ................................................... 11|
|Caracterización de los documentos ............................................................................. 12|
|Análisis del contenido metodológico ........................................................................... 12|
|Fundamentos para los 8 criterios: representatividad y rol del azar ............................ 14|
|Implementación del método ............................................................................................ 16|
|Experiencia en Latinoamérica .......................................................................................... 16|
|Análisis de la calidad de los datos en la región Andina: Bolivia, Ecuador y Perú ......... 19|
|Resultados .................................................................................................................... 19|
|Discusión ....................................................................................................................... 36|
|Conclusiones sobre uso y utilidad de la herramienta desarrollada ................................. 39|
|Referencias Bibliográficas ..................................................................................................... 40|
|Anexo 1: Instrumento guía de evaluación ............................................................................ 42|
|Anexo 2: Agradecimientos .................................................................................................... 48|

# **<mark>Lista de Tablas</mark>**

|Tabla 1. Caracterización de los documentos incluidos en la base de datos ....................... 12|
|---|
|Tabla 2. Aspectos metodológicos evaluados ....................................................................... 13|
|Tabla 3. Puntos de corte en la escala de puntaje ................................................................ 13|
|Tabla 1A. Clasificación metodológica de los estudios incluidos en la base de datos. País|
|“X”, 2009. .............................................................................................................................. 47|
# **<mark>Lista de Figuras</mark>**

|Figura 1. Estrategia del Ciclo de Resultados Aplicado al VIH/SIDA ...................................... 10|
|---|
|Figura 2. Tipo de documentos recopilados en Perú, Ecuador, Bolivia Uruguay, Paraguay,<br>Nicaragua, Guatemala y El Salvador. 2009 – 2010. .............................................................. 17|
|Figura 3. Estado de publicación de los documentos recopilados en Perú, Ecuador, Bolivia<br>Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010. ............................. 18|
|Figura 4. Diseño epidemiológico de los estudios recopilados en Perú, Ecuador, Bolivia<br>Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010. ............................. 18|
|Figura 5. Calidad metodológica de los estudios recopilados en Perú, Ecuador, Bolivia|
|Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010. ............................. 19|
|Figura 6. Tipos de documentos recopilados por país. Región Andina, 2009. ...................... 20|
|Figura 7. Estado de publicación de los documentos recopilados por país. ......................... 21|
|Región Andina, 2009. ............................................................................................................ 21|
|Figura 8. Diseños epidemiológicos de los estudios recopilados por país............................ 23|
|Región Andina, 2009. ............................................................................................................ 23|
|Figura 9. Población objetivo de los estudios recopilados, por país. Región Andina, 2009. . 25|
|Figura 10. Calidad metodológica de los estudios recopilados, por país. Región Andina,<br>2009. ..................................................................................................................................... 26|
|Figura 11. Calidad metodológica de los estudios en hombres que tienen sexo con<br>hombres, por país. Región Andina, 2009. ............................................................................ 27|
|Figura 12. Calidad metodológica de los estudios en trabajadoras sexuales, por país. Región<br>Andina, 2009. ........................................................................................................................ 28|
|Figura 13. Calidad metodológica de los estudios en personas privadas de libertad, por país.<br>Región Andina, 2009. ............................................................................................................ 29|
|Figura 14. Calidad metodológica de los estudios en personas con VIH, por país. Región|
|Andina, 2009. ........................................................................................................................ 30|
|Figura 15. Calidad metodológica de los estudios en población general, por país. Región|
|Andina, 2009. ........................................................................................................................ 31|
|Figura 16. Calidad metodológica de los estudios en jóvenes y adolescentes, por país.|
|Región Andina, 2009. ............................................................................................................ 32|
|Figura 17. Origen de las debilidades metodológicas en los estudios de poblaciones clave,<br>por país. Región Andina, 2009. ............................................................................................. 34|
|Figura 18. Origen de las debilidades metodológicas en los estudios de población general y<br>jóvenes, por país. Región Andina, 2009. .............................................................................. 35|
# **<mark>Prólogo</mark>**

El presente trabajo es fruto de la experiencia realizada por ASAP en Latinoamérica, en su misión de apoyar a los países a responder estratégicamente a la epidemia de VIH. Hoy en día se reconoce que la forma más eficaz de desarrollar políticas y programas que logren impacto sobre la epidemia, es a través de una gestión orientada a resultados. En este proceso el uso de la evidencia para informar la toma de decisiones es fundamental. Por eso un aspecto crucial de la planificación estratégica basada en observaciones críticas, es presentar a los tomadores de decisiones los datos de tales observaciones sobre la evolución y tendencias de la epidemia y sus determinantes. ASAP ha colaborado con los Ministerios de Salud de varios países recopilando todos los datos de fuentes primarias producidos localmente en los últimos quince años. Los datos luego fueron integrados en un documento llamado “Base de Datos y Referencias para una estrategia Basada en Evidencia”.

Un aspecto importante cuando se utiliza información de múltiples y variadas fuentes es poder interpretar los alcances y limitaciones de los hallazgos reportados, valorar si los estudios son comparables y ahondar en la metodología empleada. Tal análisis permitirá conocer por ejemplo, la representatividad de una muestra o la posibilidad de generalizar los resultados a la población que se pretende estudiar. Con esta finalidad ASAP propone esta herramienta de análisis de la calidad metodológica de los datos, con formato de cuestionario o lista de verificación. La misma ofrece un acercamiento práctico, especialmente dirigido al espectro de estudios que son de uso frecuente en el abordaje de la temática del VIH. La herramienta propuesta ayudará en la identificación de sesgos o problemas metodológicos surgidos al diseñar o realizar los estudios, permitiendo conocer mejor la calidad de la información que cada uno aporta. Este análisis crítico será también de ayuda en identificar las dificultades y limitaciones que encuentran en su camino los investigadores que trabajan en el campo del VIH, especialmente en el acercamiento a las poblaciones más expuestas o difíciles de alcanzar.

Finalmente el uso de esta metodología se ilustra con la rica experiencia que a lo largo de los dos últimos años, ASAP, administrado por el Banco Mundial, ha realizado en la región.

5
# **<mark>Acrónimos</mark>**

|AIDS|Acquired Immune Deficiency Syndrome|
|---|---|
|ASAP|Servicio de Estrategia y Plan de Acción contra el SIDA|
|CAP|Conocimientos, Actitudes y Prácticas|
|CDC|Centers for Disease Control and Prevention|
|DHS|Demographic and Health Surveys|
|GHAP|Global HIV/AIDS Program, World Bank|
|HSH|Hombres que tienen Sexo con Hombres|
|ITS|Infecciones de Transmisión Sexual|
|ONUSIDA|Programa Conjunto de las Naciones Unidas sobre el VIH/SIDA|
|OPS/OMS|Organización Panamericana de la Salud/ Organización Mundial de la Salud|
|PPT|PowerPoint|
|RDS|Respondent Driven Sampling|
|TLS|Time Location Sampling|
|TSS|Time Space Sampling|
|SIDA|Síndrome de Inmunodeficiencia Adquirido|
|UNGASS|United Nations General Assembly|
|VIH|Virus de Inmunodeficiencia Humana|

6
# **<mark>Resumen ejecutivo</mark>**

**Introducción** : En Latinoamérica las personas viviendo con VIH suman cerca de dos millones, en una epidemia que se concentra en poblaciones clave de mayor riesgo de infección. Diferentes fuentes de información han sido utilizadas para conocer la epidemia de VIH y sus determinantes en años recientes. Reconociendo el valor crucial de la evidencia como base del proceso de planificación estratégica y monitoreo de resultados, ASAP ha colaborado con los ministerios de salud de 8 países en Latinoamérica y ha recopilado la información generada sobre la epidemia de VIH durante los últimos 15 años. En cada país la información fue organizada en un documento integrado denominado “Base de Datos y Referencias para una Estrategia Basada en Evidencia”. En un segundo tiempo, se analizó la calidad metodológica de los estudios para conocer los alcances y limitaciones, el grado de confiabilidad de sus hallazgos y la posibilidad de ser comparados. Para realizar el mencionado análisis, se utilizó un instrumento desarrollado por ASAP con formato de cuestionario o lista de verificación.

**Objetivos:** Presentar el marco conceptual, metodología y forma de aplicación del instrumento para analizar la calidad metodológica de los datos. Compartir, a modo de ejemplo práctico, el resultado de la implementación de dicha metodología  en la Región Andina.

**Metodología:** Para la caracterización y análisis de los estudios inicialmente se identifica el tipo de documento, estado y medio de publicación, tipo de diseño epidemiológico empleado y la población objetivo de investigación. Luego se aplica una lista de verificación basada en 8 criterios metodológicos:

- 1) Objetivo claro y coherente con el desarrollo del estudio;

- 2) Definición de criterios de inclusión y exclusión;

- 3) Tamaño de la muestra;

- 4) Técnica de muestreo;

- 5) Estrategias para disminuir el error de recolección de datos;

- 6) Técnica de análisis de los datos;

- 7) Evaluación de limitaciones impuestas por la metodología; y

- 8) Expresión de intervalos de confianza y/o significación estadística.

Se adjudica 1 punto si el aspecto está presente, y 0 si no lo está. Los criterios 3, 4 y 5 han sido ponderados por 2. Para finalizar se realiza la sumatoria de puntajes parciales, obteniéndose un puntaje total o índice de calidad dentro de una escala de 0 a 11 puntos.

**Implementación en la Región Andina:** A manera de ejemplo, se detalla la experiencia que ASAP desarrolló en los países Andinos: Bolivia, Ecuador y Perú, durante el año 2009. En los tres países, se encontró que los estudios realizados en las poblaciones clave tienen puntajes de calidad menores que los de población general. Las dos características metodológicas que más contribuyeron a marcar esta diferencia fueron el sesgo de

7
selección y el tamaño inadecuado de la muestra. Ambos aspectos representan desafíos a considerar en las futuras investigaciones. Existe una gran variación en las definiciones operacionales de los indicadores utilizados, especialmente en las áreas de conocimiento y comportamiento relativos al VIH, lo que dificulta la comparación de datos. Es necesario considerar en las agendas de investigación el uso consistente de indicadores, y la priorización de los indicadores de UNGASS. En Ecuador y Bolivia se encontró un alto porcentaje de estudios no publicados, lo que sugiere la necesidad de promover la presentación de manuscritos a publicaciones que cuenten con proceso de revisión de pares, lo que contribuirá a mejorar la calidad de las investigaciones y a su más efectiva socialización. En estos dos países se identificó que la investigación en personas con VIH representa una brecha de información que requiere de consideración. En Ecuador la información sobre prevalencia de Sífilis y otras ITS representa una crítica brecha que necesita ser incorporada en la agenda de investigación del país. En el caso de Bolivia las poblaciones más expuestas han sido las menos estudiadas, lo que sugiere la necesidad de reorientar la agenda de investigación, dada la característica concentrada de su epidemia.

**Conclusiones sobre uso y utilidad de la herramienta desarrollada:** La experiencia realizada en Latinoamérica, ha mostrado que la utilización de esta herramienta con formato de lista de verificación, es sencilla y factible. La metodología implementada logró identificar los  estudios con estrategias y diseños que aumentaron la confiabilidad de sus resultados. El minucioso análisis metodológico de cada estudio, resultó de suma utilidad como paso previo al proceso de triangulación de los datos. Al permitir tomar en cuenta la calidad de los datos, esta herramienta ha ayudado a redefinir brechas en la información. Por último, ha permitido conocer los principales obstáculos metodológicos que enfrentan los investigadores locales y proponer posibles alternativas de solución. Se espera que el uso de esta herramienta pueda contribuir al mejor conocimiento de la epidemia de VIH.

8
# **<mark>Metodología para el análisis de la calidad de los datos</mark>**

## **Introducción**

Como en la mayoría de las regiones del mundo, en América Latina los primeros casos de VIH fueron detectados en los inicios de la década de los 80. Desde entonces el número de infectados se ha incrementado significativamente, estimándose que en la actualidad cerca de dos millones de personas viven con VIH en la región<sup>(1)</sup> . La mayoría de ellas son jóvenes o adultos jóvenes, lo que genera una importante carga económica y social en los países afectados. La epidemia en América Latina continúa siendo de tipo concentrada<sup>(1)</sup> , ya que la mayoría de los casos se registran en ciertos grupos poblacionales más expuestos. Estos son considerados poblaciones clave tanto para la dinámica de la epidemia, como para definir la respuesta a la misma. Los grupos de Hombres que tienen Sexo con Hombres, Usuarios de Drogas Intravenosas, Personas Privadas de Libertad, Trabajadores y Trabajadoras Sexuales constituyen las principales poblaciones clave con mayor riesgo de infectarse.

A lo largo del tiempo se han desarrollado esfuerzos para obtener información sobre el progreso y las características de la epidemia. Al comienzo se utilizaron sistemas de vigilancia convencional, llamados de primera generación. Estos sistemas de vigilancia pasiva, se limitan a contar el número de casos en las notificaciones tradicionales realizadas por los Ministerios de Salud. Con el tiempo se desarrollaron sistemas de vigilancia más ágiles y activos, denominados de segunda generación, que además de prevalencia de VIH monitorean también cambios en conocimientos, comportamientos y prácticas sexuales asociadas al riesgo de contraer el virus<sup>(2, 3)</sup> .

El conocer la información sobre la dinámica de la epidemia de VIH generada por los estudios, es un elemento clave en la planificación de la respuesta de los países; sin embargo es importante también valorar los alcances y las limitaciones de la evidencia producida por cada estudio. Con este propósito ASAP ha desarrollado un instrumento con formato de lista de verificación, que de forma sencilla pretende colaborar en el análisis de la calidad de los datos obtenidos por las investigaciones.

### **Uso de la evidencia para informar la toma de decisiones**

Actualmente se reconoce internacionalmente que la forma más eficaz de desarrollar políticas y programas que logren impacto sobre la epidemia de VIH, es a través de una gestión orientada a resultados. En este proceso el valor atribuido a la evidencia es crítico, estratégico y fundamental. La planificación estratégica se basa en observaciones y se centra en los resultados que reflejan las realidades de la epidemia y los logros de la respuesta nacional. De esta manera el proceso de planificación no se centra únicamente en insumos y actividades para lograr objetivos específicos, sino que enfoca la naturaleza y envergadura de sus esfuerzos en los resultados y efectos directos deseados. La 9
<!-- Start of picture text --> Estableciendo el Proceso<br>uy Revisién 6 Formulacién 1<br>SD Utilizar Evidencia para<br>— A de la Estrategia Andlisis de la Epidemia<br>Definir Areas de de VIH y Evaluaciénde<br>Evaluacion y Estudios la Respuesta Nacional<br>de Investigacién<br>my Inicio del Plan<br>Definir Operativo Costeado _— identificacionResultados de<br>Programa de f -Productos e<br>Monitoreroy Indicadores-<br>Inicio de Vigilancia .<br>PlanMyE \37<br>Costeado ame Costos de los Programas<br>elntemencionas— Seleccion =a<br>i, Identificar Recursos Estratégicos= e<br>Intervenciones<br><!-- End of picture text -->
Existen varias estrategias de evaluación de la calidad de estudios epidemiológicos. En general estas metodologías están orientadas a determinar el grado de evidencia que aportan las investigaciones, en su gran mayoría clínicas<sup>(5)</sup> . En este tipo de evaluaciones, los ensayos clínicos y los estudios de cohorte son considerados con las mejores posibilidades metodológicas para generar evidencia, ya sea en aspectos de causalidad, como en el estudio de eficiencia y eficacia de intervenciones y/o tratamientos. Los estudios transversales, por el contrario, son considerados solo exploratorios y con capacidad únicamente de generar hipótesis. La situación particular en que se desarrollan las investigaciones destinadas a conocer la epidemia de VIH (prevalencias, determinación de niveles de conocimiento y conductas) limita la posibilidad de realizar estudios experimentales, basándose mayormente en la aplicación de estudios transversales o de encuesta. Por esta razón, en la guía de ONUSIDA para Triangulación de la Información, se considera que se debe dar prioridad, o el más alto nivel de confianza a los datos obtenidos de los grandes estudios epidemiológicos transversales estandarizados (como las Encuestas Nacionales Demográficas y de Salud: DHS por su sigla en Inglés)<sup>(6)</sup> .

Se registran en la literatura varios cuestionarios o listas de verificación que crean un marco de referencia para evaluar la calidad metodológica de los estudios, pero la gran mayoría de ellas están diseñadas para ser aplicadas a ensayos clínicos aleatorios, y no sobre estudios observacionales<sup>(7)</sup> . Aquí se desarrolló e implementó una metodología aplicable principalmente a los estudios transversales. En forma práctica, se busca discriminar entre los estudios aquellos que, han implementado estrategias y diseños que aumentan la confiabilidad de sus resultados. Para desarrollar el cuestionario, se realizó un extenso análisis que incluyó las guías normativas sobre el desarrollo de estudios de prevalencia para infecciones de transmisión sexual de la Organización Mundial de la Salud (8), así como diversos materiales publicados tanto en libros como revistas científicas, que sientan las bases de la evaluación de calidad metodológica de los estudios de epidemiología.<sup>(9, 10, 11, 12, 13, 14)</sup>

# **Metodología para el análisis de la calidad de los datos**

Desde el año 2009, los Ministerios de Salud de varios países de Latinoamérica, con el apoyo del Programa Conjunto de las Naciones Unidas sobre el VIH-SIDA (ONUSIDA) y el Servicio de Estrategia y Plan de Acción contra el SIDA (ASAP), un servicio de ONUSIDA gestionado por el Banco Mundial, recopilaron la información generada en cada país con respecto a la epidemia de VIH y la organizaron en un documento integrado, denominado “Base de Datos y Referencias para una Estrategia Basada en Evidencia”. En cada uno de estos documentos se encuentran los principales hallazgos de los estudios disponibles sobre la epidemia de VIH realizados durante los últimos 15 años. Los criterios de inclusión para los estudios fueron: a) que constituyeran una fuente primaria de datos y b) que contuvieran datos cuantitativos. Así, se han recopilado una gran cantidad de documentos generados tanto por grupos de investigación local, nacional e internacional. De esta manera, las Bases de Datos constituyen la colección de estudios diversos de acuerdo a su tipo, características metodológicas y estado de publicación.

11
La metodología para el análisis de la calidad de los datos consta de dos etapas. La primera caracteriza cada uno de los documentos incluidos en las Bases de Datos, mientras que la segunda analiza su contenido metodológico. Se realiza siguiendo una guía de evaluación (Anexo) cuyas principales secciones se detallan a continuación.

# **Caracterización de los documentos**

En el proceso de búsqueda de estudios relacionados a la epidemia de VIH, usualmente se recopila una profusa cantidad y variedad de documentos, que como primer paso requieren de ser categorizados según distintos aspectos. En este proceso se identifica el tipo de documento, según se trate de artículos científicos o manuscritos, informes técnicos, presentaciones de PowerPoint, monografías u otros. Luego se identifica su estado de publicación, y eventualmente el medio en que ha sido publicado. Seguidamente cada trabajo es caracterizado según el tipo de diseño epidemiológico empleado y según la población objetivo de investigación. (Tabla 1).

**Tabla 1.  Caracterización de los documentos incluidos en la base de datos**

- **<mark>Tipo de documento:  Artículos científicos Informes técnicos Presentaciones de PowerPoint Tesis/Monografías Otros</mark>**

- **<mark>Estado y medio de publicación</mark>** <mark></mark> **<mark>Tipo de diseño epidemiológico</mark>** <mark></mark> **<mark>Población objetivo de investigación</mark>**

# **Análisis del contenido metodológico**

Luego se analiza su contenido metodológico en base a un instrumento diseñado a tal fin. Este instrumento evalúa la presencia o ausencia de 8 aspectos metodológicos relacionados con las “buenas prácticas en el campo de la investigación“; tres de ellos ponderados por 2 debido a su importancia crítica en la validez de los resultados. Los criterios ponderados han sido la técnica de muestreo, el tamaño adecuado de la muestra y el desarrollo de estrategias para disminuir el error en la recolección de los datos. Estos tres criterios evalúan el sesgo de selección, el poder del estudio y la consistencia de los datos respectivamente. A lo largo del cuestionario, para cada uno de los 8 criterios se adjudica 1 punto si el aspecto está presente, y 0 si no lo está. Los puntos en los criterios ponderados se multiplican por 2. (Tabla 2).

12
# **Tabla 2.  Aspectos metodológicos evaluados**

- **<mark>1) Objetivo del estudio coherente con el desarrollo del mismo 2) Definición de criterios de inclusión y exclusión 3) Tamaño de la muestra* 4) Técnica de muestreo* 5) Estrategias para disminuir el error de recolección de datos* 6) Técnica de análisis de los datos 7) Evaluación de limitaciones impuestas por la metodología 8) Intervalos de confianza y/o significación estadística * Criterios ponderados x2</mark>**

Para finalizar, se realiza la sumatoria de los puntajes parciales, obteniéndose un puntaje total que ha sido tomado como puntaje o índice de calidad. El puntaje total puede variar en una escala que va de 0 a 11 puntos (1 punto por cada criterio simple= 5 puntos; 2 puntos por cada criterio ponderado por 2= 6 puntos; suma total máxima: 5+6= 11). Se han definido como puntos de corte: puntaje de 8 y mayor, corresponde a buena calidad metodológica; puntaje de 5 a 7 corresponde a calidad intermedia y puntaje de 4 y menor corresponde a calidad metodológica limitada. (Tabla 3).

**Tabla 3.  Puntos de corte en la escala de puntaje**

|**8 a 11 puntos:**|**Calidad metodológica buena**|
|---|---|
|**5 a 7 puntos:**|**Calidad metodológica intermedia**|
|**0 a 4 puntos:**|**Calidad metodológica limitada**|

A los efectos de establecer los puntos de corte, se consideró el mínimo número de criterios que los estudios deberían tener para ser considerados de calidad metodológica buena o intermedia. No se utilizó la técnica de los terciles porque la calidad de los estudios es dependiente de sus propias características e independiente de la distribución.

- Se consideró que los estudios que alcanzan al menos 75% del puntaje máximo posible, es decir 8 puntos o más, tienen calidad metodológica buena. Este corte hace  que por ejemplo los estudios con falla en dos de los criterios ponderados x2, queden excluidos de esta categoría  ya que para tales estudios el puntaje máximo posible es 7 puntos.

13
- Para ser considerados con calidad intermedia, los estudios tuvieron que alcanzar un mínimo de 5 puntos (45%).

# **Fundamentos para los 8 criterios: representatividad y rol del azar**

Como ya se mencionó el diseño epidemiológico empleado con más frecuencia para conocer la situación de la epidemia de VIH es el transversal o de encuesta. Este diseño es aplicado a una gran variedad de temas, siendo los más frecuentes las encuestas serológicas y de comportamiento. A continuación se repasan algunos conceptos metodológicos importantes, a tener en cuenta a la hora de interpretar los estudios transversales.

## **Los criterios de inclusión y exclusión**

Los criterios de inclusión y exclusión permiten demarcar el universo de sujetos elegibles que se estableció para el estudio. Tenerlos presentes es muy importante cuando se hacen

**_La definición de criterios de inclusión y exclusión delimita el universo o marco de la muestra._**

inferencias o generalizaciones en base a los hallazgos que presenta un estudio. Por ejemplo en una encuesta serológica realizada a trabajadoras sexuales, el criterio de inclusión establecido fue que pertenecieran a burdeles de la ciudad, quedando excluidas las que ejercen el trabajo sexual en la calle. Los hallazgos de tal estudio no podrán ser generalizables a todas las trabajadoras sexuales de esa ciudad, debiendo limitarse a trabajadoras de burdeles.

## **Tamaño de la muestra**

El tamaño adecuado de la muestra permite que un estudio tenga capacidad para demostrar su hipótesis; en epidemiología a este atributo se le llama “poder del estudio”. El tamaño suficiente de una muestra va a permitir **_El poder del estudio y la precisión_** también precisión en los resultados. Cuanto mayor **_de sus resultados, dependen del_** es el tamaño de la muestra, más estrecho será el **_tamaño de la muestra._** intervalo de confianza resultante y por lo tanto su resultado más preciso. El cálculo del tamaño de la muestra permite al investigador conocer cuál es el mínimo número de individuos que permitirá que el estudio tenga el poder y la precisión deseados. En el instrumento de análisis de la calidad de los datos diseñado por ASAP, este aspecto metodológico se ha ponderado por un factor de 2 debido a su importancia.

## **Técnica de muestreo**

Para conocer la representatividad de una muestra es fundamental tener en cuenta el método de muestreo utilizado. El sesgo de selección ocurre cuando los individuos

**_El sesgo de selección ocurre cuando los individuos seleccionados no son representativos de la población que se pretende estudiar._**

seleccionados no son representativos de la población que se pretende estudiar. En el método probabilístico todos los individuos de una población tienen la misma chance de ser 14
seleccionados y esto permite obtener muestras representativas de dicha población. Por el contrario, en muestreos no probabilísticos como el muestreo por conveniencia, cada individuo tiene diferente chance de ser seleccionado en base a determinadas características, por lo que la resultante serán muestras menos representativas. Una especial consideración merece el método de muestreo utilizado en estudios de poblaciones escondidas o difíciles de alcanzar, como por ejemplo usuarios de drogas u hombres que

**_En el método probabilístico todos los individuos de una población tienen la misma chance de ser seleccionados._**

tienen sexo con hombres. Debido a situaciones de estigma y discriminación que usualmente enfrentan sus integrantes, en este tipo de poblaciones es prácticamente imposible contar con un marco muestral que delimite el universo del que se van a seleccionar los individuos en forma aleatoria. Un ejemplo de marco muestral posible para población general, sería el directorio telefónico; pero solo si todos los habitantes tuvieran una línea fija de teléfono y su número registrado en el directorio; si no nuevamente se tiene un sesgo de selección. Como para la mayoría de las poblaciones escondidas no se puede establecer ese marco, una estrategia frecuentemente utilizada es obtener muestreos por conveniencia en los lugares donde los integrantes de estas poblaciones suelen acudir, tales como bares, clubes etcétera. Obviamente las personas que acuden a esos lugares con mayor frecuencia, tienen mayor chance de ser seleccionadas. Esto no cumple con el principio de “igualdad de chance de ser seleccionado para todos los

**_Se han desarrollado alternativas de muestreo para aplicar a las poblaciones escondidas._**

individuos de la población”, definido para el muestreo probabilístico y limita la posibilidad de hacer generalizaciones. Para dar respuesta a esta limitante, a partir de una iniciativa del CDC (The Centers for Disease Control and Prevention, Atlanta, Georgia), en los últimos años se ha estudiado la implementación de otras técnicas de muestreo que provean una alternativa al enfoque tradicional probabilístico – no probabilístico<sup>(15, 16)</sup> . Tales métodos son: RDS (Respondent Driven Sampling) y TSS (por su sigla en inglés Time Space Sampling). En el instrumento de análisis de la calidad de los datos el uso de muestras probabilísticas o sus alternativas RDS y TSS para poblaciones escondidas, se considera muestreo satisfactorio. Teniendo en cuenta los fundamentos expuestos sobre la importancia de esta característica metodológica, este criterio también ha sido ponderado y su resultado es multiplicado por un factor de 2.

# **Porcentaje de personas que No responden la encuesta.**

En los estudios de encuesta aún cuando el método de muestreo haya sido probabilístico, es importante conocer el porcentaje de individuos que no aceptó responder. Esto es crítico, porque de existir diferencias entre el grupo de personas que responden a la encuesta y los que no aceptan participar, se estaría introduciendo un sesgo de selección. Si el

**_Es importante conocer el porcentaje de personas que no aceptó responder la encuesta._**

porcentaje de no respondedores es alto, los resultados de la encuesta tendrán limitaciones para ser generalizados. Esto es especialmente válido si las causas que motivaron la no aceptación están vinculadas al tema que se está investigando.

15
## **Técnicas para reducir el error en la recolección de datos**

En el desarrollo de los estudios transversales existe una variedad de acciones que se realizan para aumentar el grado de precisión de los datos colectados. Esto permite que el estudio tenga validez interna. A la hora de analizar un estudio de encuesta es importante conocer por ejemplo, si se han hecho pruebas piloto para adaptar el cuestionario al lenguaje coloquial local; si los encuestadores o personal encargado de tomar muestras biológicas han recibido entrenamiento previo; si se ha seguido una estricta normativa en la obtención de muestras biológicas; etc. Por su importancia crítica, este aspecto también se ha ponderado por un factor de 2 en el instrumento de análisis de la calidad de los datos.

# **Implementación del método**

La implementación del análisis de la calidad de los datos es sencilla. Se trabaja sobre la base de la lista de verificación presentada en el Anexo. Se responde el cuestionario punto por punto. Para cada respuesta afirmativa se considera 1 punto. Para cada respuesta negativa se considera cero. Para los tres criterios ponderados el valor obtenido se multiplica por 2. Para finalizar se realiza la sumatoria de los resultados parciales, obteniéndose un valor incluido en el rango de cero a 11.

Para facilitar el proceso, los datos de cada estudio se vuelcan en una tabla como se observa en el Anexo (Tabla 1A). En las columnas de la izquierda se registran los datos relativos a la caracterización del estudio en base al tipo de documento, estado y forma de publicación, población abordada y diseño epidemiológico empleado. En las columnas de la derecha se puntúa cada uno de los criterios que analizan la calidad metodológica, colocando ceros o unos según corresponda. Los tres criterios ponderados son multiplicados por el factor de 2. En la última columna se coloca el resultado de la sumatoria de los puntajes parciales. En esa columna se han coloreado sus celdas utilizado los colores del semáforo para indicar los estudios con calidad metodológica buena en color verde, los de calidad intermedia en amarillo y los estudios limitados han sido marcados en rojo. Esta tabla recopila la totalidad de los datos recogidos para cada estudio, al aplicar la guía de caracterización y análisis metodológico.

# **Experiencia en Latinoamérica**

Esta experiencia fue realizada inicialmente en los países de Latinoamérica donde ASAP prestó asistencia técnica para la recopilación de la evidencia. La aplicación de esta guía de análisis de la calidad de los datos se realizó inicialmente en los tres países Andinos: **Ecuador, Perú y Bolivia** durante el año 2009. Durante el año 2010, se amplió la experiencia realizándola también en otros países de América del Sur y Central. Hasta la fecha **Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador** se han sumado a la lista de países donde se realizó la recopilación de la evidencia con el posterior análisis de la calidad metodológica de las investigaciones. Este ejercicio ha resultado muy útil ya que no solamente ha permitido revisar las brechas existentes en la información necesaria para 16
conocer la situación de la epidemia de VIH, sino que también ha permitido explorar la calidad de los datos que las investigaciones producen. A continuación se mostrarán las características y calidad de los documentos recopilados en los ocho países mencionados, y luego se presentará en detalle el análisis realizado en los países Andinos.

En el conjunto de los 8 países de Latinoamérica se recopiló un total de 311 documentos. Más de la mitad de ellos son informes técnicos realizados en su mayoría por los gobiernos, organizaciones no gubernamentales, agencias de cooperación multilaterales o bilaterales y sectores académicos. Estos informes técnicos en general se encuentran disponibles como publicaciones aisladas o independientes. Cerca de la tercera parte de los documentos recopilados son artículos científicos, los que mayormente están publicados en revistas que realizan proceso de revisión de pares. El 10% de los documentos son monografías o tesis, que en su mayoría están disponibles en internet, aunque algunas solo lo están en bibliotecas universitarias. Por último hay un mínimo porcentaje de documentos que han sido obtenidos en formato de presentaciones de PowerPoint. (Figuras 2 y 3).

**Figura 2. Tipo de documentos recopilados en Perú, Ecuador, Bolivia Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010.**

<!-- Start of picture text --> PPT<br>3%<br>Informe Técnico<br>54%<br><!-- End of picture text --> <!-- Start of picture text --> PPT<br>3%<br>Tesis<br>10%<br>Artículo Científico<br>33%<br><!-- End of picture text --> 17
# **Figura 3. Estado de publicación de los documentos recopilados en Perú, Ecuador, Bolivia Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010.**

<!-- Start of picture text --> Oficial<br>3%<br><!-- End of picture text --> <!-- Start of picture text --> Boletín<br>Oficial<br>En<br>3%<br>Internet<br>7%<br>No publicado<br>16% Publicación<br>Tecnica Aislada<br>44%<br>Revista con<br>Revisión de Pares<br>30%<br><!-- End of picture text --> Con respecto al diseño epidemiológico, se encontró que el 95% de los estudios adoptaron diseño transversal o de encuesta. En el 5% restante se incluyeron 8 estudios de cohorte, 4 estudios experimentales, 2 estudios de casos y controles y 2 estudios con diseño de serie de casos. Cuando se aplicó el instrumento para analizar la calidad de los datos, se encontró que dos tercios de los estudios presentaron calidad buena y solo el 10% con calidad metodológica limitada. (Figuras 4 y 5).

**Figura 4. Diseño epidemiológico de los estudios recopilados en Perú, Ecuador, Bolivia Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010.**

<!-- Start of picture text --> Otros<br>Diseños<br>5%<br>Diseño<br>Transversal<br>95%<br>N= 311<br><!-- End of picture text --> 18
**Figura 5. Calidad metodológica de los estudios recopilados en Perú, Ecuador, Bolivia Uruguay, Paraguay, Nicaragua, Guatemala y El Salvador. 2009 – 2010.**

<!-- Start of picture text --> Limitada<br>10%<br>Intermedia<br>23%<br>Buena<br>67%<br>N= 311<br><!-- End of picture text -->

# **Análisis de la calidad de los datos en la región Andina: Bolivia, Ecuador y Perú**

Perú es el país andino que tiene el mayor tamaño poblacional, con una población estimada en 27 millones de habitantes; le siguen Ecuador con 14 millones y Bolivia con 10 millones de habitantes<sup>(17)</sup> . El nivel de avance de la transición demográfica es similar en los tres países, por lo que presentan semejante estructura en los grupos de edad. La mitad de la población está incluida en el grupo de 15 a 49 años. La epidemia de VIH también comparte ciertas características. La tasa de prevalencia en adultos de 15 a 49 años es menor de 1%, Perú: 0.5%, Ecuador: 0.3% y Bolivia 0.2%<sup>(17)</sup> . Por otra parte, la prevalencia de VIH estimada en hombres que tienen sexo con hombres está muy por encima del 5%, Perú: 12%<sup>(18)</sup> , Ecuador: 16.6%<sup>(19)</sup> y Bolivia: 9.6 a 15.3%<sup>(20)</sup> , siendo el grupo poblacional con más altas prevalencias en la región. La prevalencia de VIH en este grupo es 24 veces mayor que la prevalencia en población general en Perú y estimada en más de 50 veces mayor, en Ecuador y Bolivia. La razón hombre/mujer (cantidad de varones con VIH por cada mujer infectada) es aproximadamente 2 a 1 en los tres países. El hecho de que el doble de varones esté infectado, remarca la importancia de la vía sexual entre varones como forma de transmisión del VIH. Estas cifras muestran claramente que en los países andinos la epidemia de VIH está concentrada en poblaciones más expuestas, fundamentalmente en hombres que tienen sexo con hombres.

# **Resultados**

Se incluyeron para la caracterización y análisis un total de 57 documentos en Perú; 40 documentos en Ecuador y 25 documentos en Bolivia; compilados en sus respectivas Bases de Datos<sup>(21, 22, 23)</sup> . Cabe destacar que algunos documentos incluyeron más de una 19
población en su investigación y utilizaron diferentes modalidades metodológicas para cada una de ellas, por lo que fueron analizados y puntuados en forma independiente para cada población. Esto ocurrió por ejemplo, con varios documentos de diagnóstico de líneas de base, donde fueron estudiadas diferentes poblaciones. En algunas poblaciones se realizó muestreo por conveniencia, mientras que para otras el muestreo fue probabilístico; para algunas se logró reunir el tamaño de la muestra propuesto y para otras no. El estudio de cada población dentro de tales documentos fue puntuado en forma independiente. Por esta razón el número de estudios supera al número de documentos, ya que como se explicó, los estudios realizados en diferentes poblaciones se consideraron por separado.

Inicialmente se analizó la distribución de la totalidad de los estudios en base a sus características e índice de calidad. A continuación los estudios fueron estratificados sobre la base de la población objetivo, y se analizó la distribución de puntajes en cada estrato. Finalmente, se estratificaron los trabajos por tipo de limitaciones metodológicas encontradas.

# **Tipo de documento**

La Base de Datos de **Perú** está integrada por 47 (83%) artículos científicos; 7 (12%) informes técnicos y 3 (5%) documentos en formato de presentaciones PowerPoint (PPT). En el caso de **Ecuador** , su base de datos contiene 18 (45%) artículos científicos, 16 (40%) informes técnicos; 3 (7.5%) tesis/monografías; 2 (5%) presentaciones en PPT y por último 1 (2.5%) poster. Para **Bolivia** , se han recopilado 19 (76%) informes técnicos y 6 (24%) artículos científicos. (Figura 6).

**Figura 6. Tipos de documentos recopilados por país. Región Andina, 2009.**

<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>Posters<br>60%<br>Tesis<br>50%<br>PPT<br>40%<br>Informe Técnico<br>30%<br>Artículo Científico<br>20%<br>10%<br>0%<br>Perú n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las _Bases de Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

20
**Hallazgos:** Como puede observarse en la figura 6, las fuentes principales de información en los tres países fueron artículos científicos e informes técnicos. No obstante la proporción que representa cada una de ellas es muy diferente para cada país. En Perú la mayoría corresponden a  artículos científicos,  en Bolivia son principalmente informes técnicos, en tanto que en Ecuador la proporción de ambas fuentes es similar

# **Estado de publicación**

Con respecto al **estado de publicación** de los documentos, en **Perú** 47 (82%) están publicados en revistas que realizan proceso de revisión de pares y 7 (12%) son publicaciones técnicas aisladas (se utiliza el término aisladas para diferenciar este grupo de las publicaciones periódicas). Un documento (2%) es un informe preliminar y en 2 documentos (4%) no se encontró dato disponible sobre su estado de publicación. En el caso de **Ecuador** se encuentra que 12 documentos (30%) están publicados en revistas con revisión de pares; 9 (22.5%) son publicaciones técnicas aisladas; 2 documentos (5%) son publicaciones hechas en boletín oficial; 13 (32.5%) no han sido publicados y para 4 (10%) no pudo obtenerse dato del estado de publicación. Finalmente en **Bolivia** se encuentra que 13 documentos (52%) son publicaciones técnicas; 5 (20%) han sido publicados en revista con revisión de pares y 1 (4%) en boletín oficial. Seis documentos (24%) no habían sido publicados al momento de realizarse esta recopilación. (Figura. 7).

**Figura 7. Estado de publicación de los documentos recopilados por país. Región Andina, 2009.**

<!-- Start of picture text --> 100%<br>90% No Publicado/ Sin Dato<br>80%<br>70%<br>Boletín Oficial<br>60%<br>50%<br>40% Publicaciones Técnicas<br>Aisladas<br>30%<br>20%<br>Publicados en Revistas<br>10% con Revisión de Pares<br>0%<br>Perú n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las _Bases de Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

21
**Hallazgos:** La proporción de artículos científicos en las Bases de Datos, coincide con la proporción de documentos publicados en revistas científicas con revisión de pares (AIDS, Sexually Transmitted Diseases y Revista Panamericana de Salud Pública son ejemplos de tales publicaciones). Perú es el país andino que cuenta con la mayor proporción de los trabajos publicados por este medio. Esto probablemente se deba a que es uno de los países en América Latina con mayor historia de investigación en VIH, estando el sector académico activamente involucrado en el proceso desde el comienzo de la epidemia. Por el contrario, Ecuador es el país con la más alta proporción de documentos no publicados o sin datos sobre el estado de publicación, los que representan más del 40%. En Bolivia el grupo de trabajos no publicados constituye una cuarta parte del total. La falta de publicación tiene impacto en el uso y calidad de la información; por un lado dificulta el acceso a la información y socialización de los hallazgos, y por otro hace que los trabajos producidos sean más débiles, ya que no pasan por el detallado y enriquecedor proceso de revisión de pares.

# **Tipo de diseño epidemiológico**

Considerando el tipo de diseño epidemiológico adoptado, se observa que en **Perú** los estudios transversales de encuesta serológica complementada con encuesta de variables socio-demográficas y de comportamiento, son el tipo de diseño más frecuente entre los estudios incluidos en la base de datos. Este tipo de diseño representa el 49% del total e incluye a 28 estudios. También dentro de los diseños de tipo transversal hay 18 encuestas de conocimientos actitudes y prácticas (CAP) (32%) y 3 estudios bacteriológicos de ITS complementadas con encuesta socio-demográfica (5%). Si se agrupa a todos los estudios de corte transversal, los mismos suman 86% del total de trabajos. El 14% restante está compuesto por 4 estudios de cohorte (7%); 2 estudios de casos y controles (3%), 1 estudio de serie de casos (2%) y 1 ensayo clínico (2%). En el caso de **Ecuador** , se observa que 36 documentos (90%), utilizan diseños de corte transversal con sus diversas modalidades. Dentro de este grupo hay 20 documentos que contienen encuestas CAP (50%); 10 documentos con encuestas serológicas con y sin complemento de encuestas CAP (25%) y 6 estudios transversales de encuestas sobre otros temas (15%). Entre los 4 documentos restantes (10%), hay un estudio con diseño experimental; un estudio de control de calidad para laboratorios; un censo y un estudio de serie de casos. En **Bolivia** también se observa que la gran mayoría de los estudios (96%) han seguido diseños de corte transversal o de encuesta, con sus diversas modalidades. Dentro de este grupo hay 16 documentos (64%) que contienen encuestas CAP; 7 (28%) encuestas serológicas del VIH con y sin complemento de encuestas CAP, y una (4%) encuesta serológica de sífilis. Se encontró un estudio (4%) con diseño longitudinal conformado por una cohorte de personas con VIH. (Figura. 8). En esta figura, los estudios transversales o de encuesta en sus distintas modalidades se han graficado en la gama de azules.

22
**Figura 8. Diseños epidemiológicos de los estudios recopilados  por país. Región Andina, 2009.**

<!-- Start of picture text --> 100%<br>Otros<br>90%<br>Experimental/Ensayo<br>Clínico<br>80%<br>Serie de Casos<br>70%<br>Casos y Controles<br>60%<br>Estudios de Cohorte<br>50%<br>40% Otros Estudios de<br>Encuesta<br>30%<br>Encuesta CAP<br>20%<br>Encuesta Serológica<br>con/sin Encuesta CAP<br>10%<br>0%<br>Perú n= 57 Ecuador n= 40 Bolivia n= 25<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las _Bases de Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

**Hallazgos:** Como puede observarse claramente en la figura de arriba, en los tres países analizados, la gran mayoría son estudios de corte transversal o de encuestas, que constituyen entre el 86 y 96% del total. La diferencia radica en que en Perú dichas investigaciones se han centrado en el estudio de prevalencias serológicas complementadas con encuestas demográficas y de comportamiento, en tanto que en

23
Ecuador y Bolivia se han realizado más investigaciones en el área de conocimiento, actitudes y prácticas. Esto podría deberse a que los estudios que incluyen la encuesta serológica son más costosos y requieren un soporte logístico mucho mayor.

Se destaca también que los tres países cuentan con encuestas demográficas y de salud (DHS por su sigla en inglés) realizadas por sus Institutos Nacionales de Estadística. Las mismas incluyen conocimientos, actitudes y prácticas sobre VIH, tienen alcance nacional y son aplicadas a la población general. Al ser aplicadas periódicamente y con metodología consistente, constituyen fuentes confiables de información que permiten analizar las tendencias nacionales y locales de conductas y conocimientos sobre el VIH en la población general.

# **Población objetivo del estudio**

Los tres países incluidos en este análisis presentan epidemias de VIH concentradas en grupos clave como Hombres que tienen Sexo con Hombres, Personas Privadas de Libertad, Trabajadores y Trabajadoras Sexuales. Por esta razón fue de interés ver qué peso tienen estas poblaciones en el total de las investigaciones realizadas.

Si se toma en cuenta la **población objetivo** de los estudios en **Perú** , se aprecia que el 62.5% se han desarrollado en poblaciones clave: 19% sobre Hombres que tienen Sexo con Hombres; 14% en Trabajadoras Sexuales; 7% en personas que viven con VIH; 5% en personas privadas de libertad y 17.5% sobre otras poblaciones en riesgo como clientes de trabajadoras sexuales y personas con infecciones de transmisión sexual (ITS). Las poblaciones consideradas menos expuestas al VIH representan el 37.5% de las investigaciones. Entre ellas 17.5% corresponde a estudios realizados en población general; 9% en jóvenes; 4% en gestantes y 6.5% en otras poblaciones consideradas dentro de esta categoría. En **Ecuador** el 58.9% de la investigación incluida en la Base de Datos corresponde a grupos considerados poblaciones clave de mayor riesgo. Entre ellos 19.6% ha sido realizado en trabajadoras sexuales; 16.1% en hombres que tienen sexo con hombres; 10.7% en personas privadas de la libertad; 8.9% en personas que viven con VIH y el 3.6% en personas con ITS. En el conjunto de poblaciones consideradas menos expuestas al VIH se desarrolló el 41.1% de la investigación. El 19.6% corresponde a estudios realizados en jóvenes; en tanto que 14.3% se realizó sobre población general; 3.6% en puérperas y 3.6% en otros grupos. En **Bolivia** el 37% de la investigación corresponde a las poblaciones clave para la epidemia de VIH: 13% en hombres que tienen sexo con hombres; 8% en trabajadoras/es sexuales; 5% en personas que viven con VIH; 5% en personas con ITS, 3% en personas privadas de libertad y 3% en otras poblaciones más expuestas. Las poblaciones consideradas menos expuestas al VIH involucran el 63% de las investigaciones: 18% han sido realizados en Población General; 13% en Adolescentes y Jóvenes; 13% en mujeres embarazadas/puérperas y 19% en otros grupos.

En la Figura 9 las poblaciones clave fueron graficadas en tonos de azul y las consideradas menos expuestas se graficaron en tonos de rojos para favorecer la comparación entre los dos grupos.

24
**Figura 9. Población objetivo de los estudios recopilados, por país. Región Andina, 2009.**

<!-- Start of picture text --> 100%<br>Otros Grupos<br>90%<br>Gestantes/Puérperas<br>80%<br>70% Jóvenes<br>60%<br>Población General<br>50%<br>Otros Grupos Más<br>40% Vulnerables<br>Personas con VIH<br>30%<br>20% Privados de Libertad<br>10%<br>Trabajadoras<br>Sexuales<br>0%<br>Hombres Sexo con<br>Perú n= 57 Ecuador n= 40 Bolivia n= 25<br>Hombres<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las _Bases de Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

**Hallazgos:** Como es de esperar en epidemias concentradas, en Perú y Ecuador la mayor parte de las investigaciones (cerca del 60%), se realizó sobre las poblaciones más expuestas. En Bolivia, en cambio, solo la tercera parte de los estudios estuvieron destinados a los grupos en los que la epidemia tiene mayor peso. Este importante hallazgo podría obedecer a múltiples causas que van desde agendas de investigación que no centraron sus esfuerzos en estos grupos; hasta dificultades específicas en el acercamiento y trabajo con las poblaciones difíciles de alcanzar.

# **Análisis de contenido metodológico**

Terminada la primera etapa de caracterización, se comenzó el análisis del contenido metodológico en función de los 8 criterios evaluados y se observó la distribución de los puntajes de calidad para cada país. Como se recuerda, el menor puntaje posible es 0 y el puntaje mayor posible es de 11 puntos.

En el caso de **Perú** se advierte una distribución asimétrica de los puntajes, que agrupa a los estudios alrededor de un valor central de 9 puntos. Esta distribución tiene una mediana y un modo de 9 puntos, mientras que la dispersión presenta un rango de 3 a 11 puntos. Se agruparon los estudios según los puntos de corte en el puntaje de calidad obteniéndose tres grupos. Los estudios considerados como de calidad buena (8 a 11 25
<!-- Start of picture text --> 60<br>es<br>w 50 AN<br>fe}<br>-~<br>c<br>40<br>=<br>S<br>8 m Limitada<br>GS 30 —————<br>a Intermedia<br>zo] ee<br>°<br>o 20 | mTM Buena<br>=<br>Ss<br>= 10<br>0<br>Perun= 57 Ecuador n=40 ___—Bolivian= 25<br><!-- End of picture text -->
<!-- Start of picture text --> 100%<br>90%<br>80%<br>70% + {-——<br>60% + {-——<br>50% § Limitada<br>10% — Intermedia<br>30% _-~—s—s Buena<br>20%<br>10%<br>0%<br>Perun= 15 Ecuador n= 9 Bolivia n= 5<br><!-- End of picture text -->
<!-- Start of picture text --> 100% -——<br>90% J J -——<br>80% J J -——<br>70% J -——<br>60% J -——<br>50% § Limitada<br>10% — Intermedia<br>30% @ Buena<br>20%<br>10%<br>0%<br>Perun= 11 Ecuador n= 11 Bolivia n= 3<br><!-- End of picture text --> Perun= 11 Ecuador n= 11 Bolivia n= 3
<!-- Start of picture text --> 7<br>6<br>w<br>© 5<br>35<br>oa)<br>wi 4 = * *<br>0 Bg Limitada<br>ao] .<br>°o 3 Intermedia<br>rT<br>£ = Buena<br>2<br>1<br>0<br>Perun=4 Ecuador n= 6 Bolivia n= 1<br><!-- End of picture text -->
<!-- Start of picture text --> 7<br>6<br>65<br>=<br>5<br>hm 4 a<br>w g Limitada<br>w<br>5 3 Intermedia<br>ce @ Buena<br>5 2 —<br>Z2<br>1 ==<br>0<br>Perun=6 Ecuador n=5 Bolivia n= 2<br><!-- End of picture text --> Perun=6
<!-- Start of picture text --> 100% -——<br>90% {+<br>80%<br>70%<br>60%<br>@ Limitada<br>50%<br>40% Intermedia<br>30% = Buena<br>20%<br>10%<br>0%<br>Perun= 14 Ecuador n= 8 Bolivia n= 7<br><!-- End of picture text --> Perun= 14 Ecuador n= 8 Bolivia n= 7
<!-- Start of picture text --> 100%<br>90%<br>80%<br>70%<br>60%<br>mg Limitada<br>0%<br>40% Intermedia<br>30% mTM Buena<br>20%<br>10%<br>0%<br>Perun=7 Ecuador n= 11 Bolivia n= 5<br><!-- End of picture text -->
del azar. En el caso de **Perú** se encontró que el puntaje de calidad de los estudios realizados en hombres que tienen sexo con hombres, trabajadoras sexuales y personas con VIH, fue significativamente menor que el puntaje de los estudios de población general y Jóvenes. Esta diferencia resultó estadísticamente significativa con un valor de p= 0.003. En **Ecuador** y en **Bolivia** se observó lo mismo; ya que los estudios desarrollados en esas tres poblaciones clave tuvieron menor calidad metodológica que los realizados en población general y jóvenes. Esta diferencia también fue estadísticamente significativa con un valor de p= 0.05 para Ecuador y p= 0.001 para Bolivia. Se concluye que la calidad de los estudios realizados en esas poblaciones clave es inferior a la calidad de los estudios en población general en los tres países analizados.

# **Origen de las debilidades metodológicas**

Se planteó si la diferencia de puntajes observada entre los estudios realizados en las poblaciones más expuestas y los de población general se debía a alguna limitación metodológica en particular. Para ello se analizaron las debilidades encontradas en cada uno de los 8 criterios metodológicos evaluados para cada grupo. En una apreciación global de las figuras 17 y 18 pueden observarse las debilidades encontradas por criterio para los dos grupos de análisis.

El **sesgo de selección** tomado en cuenta en la variable “técnica de muestreo”, fue el criterio que presentó más debilidades en los trabajos realizados en las poblaciones clave de mayor riesgo, ya que entre el 90 y 92% de los mismos realizaron muestreos por conveniencia. Por el contrario, en la mayoría de los estudios realizados en población general se obtuvieron muestras probabilísticas y sólo en el 10 a 40 % se usó muestreo por conveniencia. Esto se encontró en los tres países aquí analizados y da cuenta de la dificultad de obtener muestreos probabilísticos en las poblaciones más expuestas. Entre los estudios evaluados, se encontró una mínima proporción de investigaciones que utilizaron la modalidad de muestreo dirigido por entrevistados; no habiéndose recopilado ninguna investigación que utilice la técnica conocida como TSS (muestreo basado en tiempo y lugar).

La obtención de un **tamaño de la muestra** adecuado fue el segundo criterio que mostró mayor frecuencia de flaquezas entre los estudios de las poblaciones más expuestas. Esto también fue observado en los tres países, aunque la diferencia fue más evidente en Bolivia y Perú. La obtención de muestras de tamaño insuficiente genera estudios con falta de poder. Este criterio posiblemente también esté ligado a la dificultad de acceder a las poblaciones difíciles de alcanzar.

La presencia de debilidades en los otros criterios analizados, no parece seguir un patrón vinculado a la exposición de las poblaciones al VIH. El más frecuentemente hallado fue la falta de **consideración de las limitaciones** impuestas por la metodología implementada. Este aspecto presentó más frecuentemente debilidades entre los estudios desarrollados en población general y jóvenes tanto en Perú como en Ecuador. En cambio en Bolivia se observó la situación inversa.

33
# **Figura 17. Origen de las debilidades metodológicas en los estudios de poblaciones clave, por país. Región Andina, 2009.**

<!-- Start of picture text --> Define Objetivo<br>Criterios de Inclusión<br>Tamaño de la Muestra<br>Técnica de Muestreo<br>Técnica de Disminución Error de Recolección<br>Técnica de Análisis<br>Describe Limitaciones<br>Cálculo de Error Estadístico y/o Valor de p<br>0 10 20 30 40 50 60 70 80 90 100<br>Porcentaje de estudios<br>Perú n= 32 Ecuador n= 25 Bolivia n= 10<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las Bases de _Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

34
# **Figura 18. Origen de las debilidades metodológicas en los estudios de población general y jóvenes, por país. Región Andina, 2009.**

<!-- Start of picture text --> Define Objetivo<br>Criterios de Inclusión<br>Tamaño de la Muestra<br>Técnica de Muestreo<br>Técnica de Disminución Error de Recolección<br>Técnica de Análisis<br>Describe Limitaciones<br>Cálculo de Error Estadístico y/o Valor de p<br>0 20 40 60 80 100<br>Porcentaje de estudios<br>Perú n= 21 Ecuador n= 19 Bolivia n= 12<br><!-- End of picture text -->

**Fuente:** Elaboración propia con información de las _Bases de Datos y Referencias para una Estrategia Basada en Evidencia_ de Perú, Ecuador y Bolivia.

35
**Hallazgos:** Los criterios metodológicos que más frecuentemente presentaron debilidades son la técnica de muestreo y el tamaño adecuado de la muestra. Ambas limitaciones metodológicas se presentaron con mayor frecuencia en los estudios de las poblaciones más expuestas. Esto probablemente se deba a las dificultades vinculadas a situaciones de estigma discriminación e ilegalidad, que se presentan en el abordaje de las poblaciones difíciles de alcanzar. El tercer criterio que presentó mayor frecuencia de debilidades fue no describir las limitaciones del estudio. En este criterio, no se identificó un patrón claramente asociado a la población objetivo, como en el caso de los dos antes mencionados.

# **Discusión**

Fundamenta esta recopilación de evidencia y su posterior análisis, la idea de facilitar el uso de la información en el proceso de planificación estratégica basadas en evidencia y orientada a resultados. En dicho proceso se utiliza la información para establecer valores de líneas de base, indicadores y metas esperables. Si la información con que se cuenta es consistente a lo largo del tiempo, permitirá evaluar las tendencias en la epidemia y los resultados obtenidos producto de la planificación y gestión de la respuesta nacional. En este proceso iterativo, el conocimiento de los resultados finalmente permitirá evaluar la eficacia de la estrategia implementada y re-orientar o re-formular los planes.

El grupo de documentos recopilados en **Perú,** es un conjunto homogéneo, compuesto mayoritariamente por artículos científicos publicados en revistas internacionales que realizan exhaustivos procesos de revisión de pares.

Se han realizado estudios de investigación sobre una gran variedad de poblaciones con distintos grados de exposición al VIH, pero casi dos terceras partes de todo lo investigado corresponden a poblaciones más expuestas. Se han estudiado tanto prevalencias como variables socio-demográficas y de comportamiento en la mayoría de las poblaciones. No se ha recopilado información sobre VIH en relación a personas con discapacidad. Trabajos realizados en otras regiones sugieren que este grupo podría tener incremento en el riesgo de adquirir VIH<sup>(24, 25, 26)</sup> . Las personas con discapacidad también se consideran poblaciones escondidas, pero no por situaciones de ilegalidad, sino porque muchas veces las sociedades “no las ven” o las consideran personas que no están en riesgo de adquirir VIH.

El diseño epidemiológico adoptado por la gran mayoría de los trabajos es de tipo transversal. Algunos de los estudios han realizado varios cortes transversales en ciertas poblaciones, implementando la misma metodología a lo largo del tiempo. Esta estrategia si bien no genera la misma evidencia que el seguimiento de una cohorte (donde se siguen los mismos individuos), permite evaluar cambios temporales y establecer tendencias.

La calidad metodológica, de la gran mayoría de los trabajos incluidos en la base de datos, es sólida. El 82% de los estudios presentaron un índice de calidad de 8 puntos o mayor. La abundancia de trabajos de investigación de sólida calidad metodológica que pudieron ser 36
incluidos en la base de datos, expresa la importante historia de investigación en VIH que se ha desarrollado en el Perú desde el comienzo de la epidemia. A lo largo de los años este proceso ha contado con la activa participación de instituciones académicas reconocidas, tanto del orden nacional como internacional. Esta visión es coincidente con la de otras revisiones<sup>(27)</sup> .

Cuando en el análisis se estratificaron los estudios por población objetivo, se observó que los índices de calidad para los estudios realizados en población general, adolescentes y jóvenes, tienen puntajes mayores que los realizados sobre hombres que tienen sexo con hombres y trabajadoras sexuales, siendo la diferencia entre los dos grupos estadísticamente significativa. Las limitaciones más frecuentemente encontradas en los estudios realizados en las poblaciones clave de mayor riesgo, fueron el inadecuado tamaño de la muestra y el sesgo de selección de individuos, ya que en la mayoría se utilizó muestreo por conveniencia. Estos obstáculos metodológicos son mucho más difíciles de sortear cuando se trabaja con poblaciones escondidas, debido a la discriminación y estigma social que frecuentemente sufren sus miembros. La utilización de nuevas estrategias de muestreo para poblaciones difíciles de alcanzar como TSS (muestreo basado en tiempo y lugar) resulta un desafío a plantear en las futuras investigaciones.

En el caso de **Ecuador** , se observa un grupo heterogéneo de documentos, compuesto fundamentalmente por informes técnicos y artículos científicos, pero que incluyen también algunas presentaciones en PowerPoint y un Poster. De todos ellos solamente el 60% están publicados. La falta de publicación no solo limita la socialización de los resultados, sino que contribuye también a generar trabajos con limitaciones metodológicas. Sería deseable promover la presentación de manuscritos a publicaciones que cuenten con proceso de revisión de pares. En este proceso, la crítica de los pares aportará opciones y señalará aspectos que al final contribuirán a mejorar la calidad de los resultados de las investigaciones Casi el 60% de la investigación incluida en la Base de Datos y Referencias, se realizó en las poblaciones clave para el VIH. Dentro de las poblaciones consideradas menos expuestas, los estudios realizados en jóvenes son los más frecuentes, constituyendo cerca del 20% del total de trabajos.

La calidad metodológica presenta una gran dispersión. Aproximadamente la mitad de los estudios tienen índices de buena calidad, la cuarta parte de calidad intermedia y el cuarto restante de calidad limitada. Si se consideran por separado los estudios realizados en Hombres que tienen Sexo con Hombres y Trabajadoras Sexuales, el sesgo de selección y el inadecuado tamaño de la muestra son las principales causas de debilidad metodológica. En cuanto a los estudios realizados en personas con VIH, se encontró que la mayoría de ellos tienen calidad metodológica limitada. Aquí no pudo identificarse una única causa de debilidad metodológica ya que casi todas las características evaluadas mostraron flaquezas.

37
Con respecto al tema investigado se ha compilado una importante cantidad de estudios que centran su atención en Conocimiento, Actitudes y Prácticas. El 60% de los mismos presentan puntajes de buena calidad metodológica. No pasa lo mismo cuando se consideran los estudios serológicos del VIH, ya que además de ser mucho menos frecuentes, solamente cerca del 40% presentan puntajes de buena calidad. Si se focaliza el análisis en los estudios de Sífilis y otras ITS, el panorama es aún más crítico ya que se compilaron y analizaron solo dos estudios, de los cuales uno es de calidad limitada. Por esta razón, la información sobre prevalencia de Sífilis y otras ITS representa una crítica brecha, tanto por la importancia que tienen estas enfermedades en sí mismas como por su relevancia en la expansión de la epidemia del VIH. Estos temas necesitan ser incorporados en la agenda de investigación del país.

Finalmente, en el caso de **Bolivia** , se incluyeron para la caracterización y análisis un total de 25 documentos la mayoría de los cuales son informes técnicos. La cuarta parte de los estudios no han sido publicados.

Casi todos los trabajos han seguido diseños de corte transversal con sus diversas modalidades, siendo las más frecuentes las encuestas de Conocimiento, Actitudes y Prácticas (CAP). A diferencia del caso de Ecuador, la calidad metodológica de las encuestas de CAP es inferior a la de las encuestas serológicas del VIH.

Solamente un tercio de las investigaciones fueron realizadas en las poblaciones más expuestas. Esta situación no condice con el tipo de epidemia concentrada que presenta Bolivia y sugiere la necesidad de re-direccionar el objetivo hacia los grupos que concentran la epidemia El análisis de la calidad metodológica, muestra que aproximadamente el 70% de los estudios han sido clasificados con buena calidad. Sin embargo esto no es parejo para todas las poblaciones ya que la calidad de los estudios realizados en las poblaciones más expuestas es significativamente inferior a la de los realizados en la población general. Bolivia es el país en que esta diferencia resultó más marcada, lo que lleva a concluir que los estudios realizados en las poblaciones clave son proporcionalmente pocos y de menor calidad metodológica. Esto sugiere la necesidad de reorientar la agenda de investigación del país a fin de priorizar aquellos grupos de individuos en que la carga de la enfermedad es mayor.

Aún cuando el objetivo de este análisis no persiguió evaluar aspectos relacionados a la estandarización de variables operacionales, es importante señalar que se observó una amplia variación en las definiciones operativas utilizadas en los países de la región. Esto limita la posibilidad de comparar los estudios tanto en el tiempo como entre diferentes regiones geográficas. El uso consistente de indicadores, y la priorización de los indicadores de UNGASS, requiere ser considerado en las agendas de investigación de los países. Para fortalecer la evidencia relacionada con el VIH/SIDA y otras ITS, es importante instaurar normas y estándares para la definición operacional de variables, que guíen la realización de investigaciones y que garantice su difusión y utilización al momento de planificar acciones para dar respuesta al avance del VIH.

38
# **Conclusiones sobre uso y utilidad de la herramienta desarrollada**

- La ausencia de herramientas que de forma sencilla ayuden a analizar la calidad de los datos existentes sobre la epidemia de VIH, ha motivado el desarrollo de este instrumento con formato de lista de verificación.

- La utilización de esta herramienta en la experiencia desarrollada en Latinoamérica, ha resultado sencilla y factible. Ha permitido a diferentes usuarios analizar más de 300 estudios de investigación. Durante el proceso de evaluación se hallaron altos índices de concordancia entre los diferentes observadores lo que sugiere que el instrumento es preciso.

- La metodología implementada logró discriminar dentro del universo de estudios incluidos en la Base de Datos, a aquellos con mayor capacidad para generar información con respaldo metodológico en las áreas estudiadas. Este acercamiento práctico, permitió identificar los estudios que implementaron estrategias y diseños, que aumentaron la confiabilidad de sus resultados.

- La aplicación del instrumento desarrollado, promovió un minucioso análisis metodológico de cada una de las investigaciones, que ha resultado de indiscutible utilidad como paso previo a la triangulación de los datos.  De esta manera, aporta también al conocimiento de la solidez en las conclusiones obtenidas a través del proceso de triangulación.

- Al permitir tomar en cuenta la calidad de los datos, esta herramienta ha ayudado a redefinir brechas en la información. Tal resultó el caso de ciertas poblaciones o temas investigados, en los que el análisis de calidad de los datos, no encontró estudios de contenido metodológico sólido entre los desarrollados.

- La implementación de esta metodología, ha permitido conocer los principales obstáculos metodológicos que enfrentan los investigadores locales, en el estudio de las diferentes poblaciones y proponer posibles alternativas de solución.

- Con la utilización de esta herramienta se espera poder contribuir al conocimiento de la epidemia de VIH y promover la calidad metodológica de los estudios, lo que ayudará a guiar las acciones destinadas a contener el avance del virus.

39
# **<mark>Referencias Bibliográficas</mark>**

1. ONUSIDA/09.36S. 2009. “Situación de la epidemia de sida, diciembre de 2009”. <u>http://data.unaids.org/pub/Report/2009/jc1700_epi_update_2009_es.pdf</u>

2. UNAIDS/WHO. 2002. “Initiating Second Generation HIV Surveillance System: Practical Guidelines. UNAIDS/WHO Working Group on Global HIV/AIDS and STI Surveillance”. - <u>http://data.unaids.org/Publications/IRC pub02/jc742 initiatingsgs_en.pdf</u> 3. UNAIDS/WHO. 2004. “Second Generation Surveillance for HIV: The Next Decade”. - <u>http://data.unaids.org/publications/irc pub01/jc370 2ndgeneration_en.pdf</u> 4. Rodríguez-García R, World Bank Group. 2007. “Planning and Managing for HIV/AIDS Results. A Handbook”. <u>http://siteresources.worldbank.org/INTHIVAIDS/Resources/375798 1103037153392/Results_Handbook_31Oct2007.pdf</u> 5. Atkins D, Best D, Briss PA, et al. 2004. "Grading quality of evidence and strength of recommendations". BMJ 328 (7454): 1490 6. World Health Organization. 2009. “HIV Triangulation Resource Guide”. <u>http://data.unaids.org/pub/Manual/2009/20090915_hiv_triangulation_resource_guid e_en.pdf</u> 7. Downs S, Black N. 1998. “The feasibility of creating a checklist for the assessment of the methodological quality both of randomized and non-randomised studies of health care interventions”. J Epidemiol Community Health 1998; 52; 377-384.

8. World Health Organization. 1999. “Sexually Transmitted Infections Prevalence Study Methodology. Guidelines for the implementation of STI prevalence surveys”. <u>http://www.wpro.who.int/internet/resources.ashx/HSI/docs/Guidelines_for_the_Impl ementation_of_STI_Prevalence_Surveys.pdf</u> 9. Aschengrau, A. 2003. “Essentials of Epidemiology in Public Health”. Sudbury Mass.: Jones and Barlett.

10. Gordis, L. 2004. “Epidemiology”. Third Edition, Elsevier Saunders.

11. Girden, E. 2001. “Evaluating Research Articles from Start to Finish”. Second Edition, Sage Publications.

12. Hernandez-Avila, M. y col. 2000. “Diseño de estudios epidemiológicos”. Salud pública de México / vol.42, no.2, marzo-abril de 2000.

13. Szklo M. 2006. “Quality of scientific articles”. Rev Saúde Pública 2006; 40 (N Esp):30-5.

14. Velasco, V. y col. 2003. “Muestreo y Tamaño de Muestra. Una guía práctica para personal de salud que realiza investigación”. e-libro.net. Buenos Aires 15. Salganik M, Heckathorn D. 2004. “Sampling and Estimation in Hidden Populations Using Respondent-Driven Sampling”. Sociological Methodology, Vol. 34. (2004), pp. 193-239 16. Muhib F, Lin L, et al. 2001. “A venue-based method for sampling hard-to-reach populations”. Public Health Rep. 2001; 116(Suppl 1): 216–222.

17. UNAIDS/WHO/UNICEF. 2008. “Epidemiological fact sheets on HIV and AIDS”. <u>http://www.unaids.org/en/KnowledgeCentre/HIVData/Epidemiology/epifactsheets.as p</u> 40
18. CARE-Perú. 2008. “Cuarta Medición de Indicadores de los Objetivos 2-4 del Componente VIH”. http://www.bvcooperacion.pe/biblioteca/handle/123456789/6135 19. Bautista, C.T., Sánchez J.L., Montano S.M., Laguna-Torres V.A., Lama J.R., Kusunaki L., y Carr J.K. 2004. “Seroprevalence of and risk factors for HIV-1 Infection among South American men who have sex with men”. Sex Transm. Infect. 2004 80:498-504 20. Ministerio de Salud y Deportes, ONUSIDA, OPS/OMS, USAID, CDC, IBIS-HIVOS. 2008. ” Estudio de Sexualidad Masculina y VIH en Bolivia (SEMVBO) ”. La Paz, Bolivia 2010 21. Ministerio de Salud, Estrategia Sanitaria Nacional de ITS/VIH/SIDA, Coordinadora Nacional en Salud, ASAP, Perú. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

22. Programa Nacional de Prevención y Control del VIH/SIDA-ITS del Ministerio de Salud Pública, ASAP, Ecuador. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

23. Ministerio de Salud y Deportes Programa Nacional ITS/VIH/SIDA, ASAP, Bolivia. 2009. “Base de Datos y Referencias para una Estrategia Basada en Evidencia”.

24. Maart S, Jelsma J. 2010. “The sexual behaviour of physically disabled adolescents”. Disabil Rehabil. 2010;32(6):438-43.

25. Heidari S, Kippax S. 2009. “Special theme on HIV and disability - time for closer bonds”. J Int AIDS Soc. 2009 Nov 9;12(1): 26. Rohleder P, Braathen SH, Swartz L, Eide AH. 2009. “HIV/AIDS and disability in Southern Africa: a review of relevant literature”. Disabil Rehabil. 2009;31(1):51-9. PubMed PMID: 19194810.

27. Cáceres CF, Mendoza W. 2004. “Monitoring Trends in Sexual Behaviour and HIV/STIs in Peru: Are Available Data Sufficient?”. Sex Transm Infect 2004; Suppl 2:ii80-4.

41
# **<mark>Anexo 1: Instrumento guía de evaluación</mark>**

## **Caracterización de los documentos**

## **1. Tipo de documento**

La gran variedad de documentos que son presentados como fuente de datos a considerar, hace prioritario determinar su tipo, en base a las características de su estructura.

##  **Artículo científico o manuscrito:**

Este tipo de documento tiene una estructura que sigue un formato determinado que incluye diferentes secciones. Estas son: resumen, introducción, objetivo, materiales y métodos, resultados, discusión, conclusiones y referencias.

##  **Resumen sin documento original: (abstract)**

Se cuenta solamente con el resumen del estudio no habiendo sido posible acceder al documento completo.

##  **Poster:**

Son presentaciones realizadas mediante afiches en diversos contextos científicos y académicos. Si bien tienen la misma estructura u organización que los artículos científicos, las secciones se presentan resumidas por razones de espacio.

##  **Presentación en PPT:**

Presentación de la información en formato electrónico de tipo PowerPoint u otros programas similares de presentaciones con formato y texto esquematizado.

##  **Informes técnicos:**

Los informes técnicos pueden ser clasificados según su nivel de revisión en informe preliminar (si se trata de una versión que será sometida a revisión ulterior) e informe final, (cuando se trata de la versión definitiva). Si tomamos en cuenta la extensión del reporte, éstos pueden ser informes resumidos o extensos.

##  **Monografía/ tesis:**

Documentos extensos presentados por profesionales en formación, donde se analiza en profundidad un tema de investigación. Su estructura básica es similar a la de los artículos científicos. En general están disponibles en las universidades.

##  **Reportes del Departamento de Epidemiología del Ministerio de Salud:**

Reportes de vigilancia epidemiológica activa y pasiva (Casos, Laboratorio, Bancos de Sangre, etc.) y reportes de programas.

42
# **2. Estado y forma de publicación**

Es importante conocer el estado de publicación de los estudios y documentos, así como el medio en el que éstos fueron socializados. Caracterizamos el estado de publicación en los siguientes puntos:

- **Publicado en revistas científicas con proceso de revisión de pares:**

- Los trabajos publicados en estos medios, son sometidos a un detallado análisis de sus características metodológicas por un comité de expertos, antes de ser aceptados para su publicación.

- **Publicado en revistas sin revisión de pares:**

- Los estudios publicados por este medio no cuentan con el “control de calidad” definido por el grupo de expertos mencionado anteriormente.

- **Publicado en Boletín Oficial:**

- Estudios o datos socializados a través de publicaciones periódicas del Ministerio de Salud, como boletines o revistas oficiales.

- **Publicación técnica aislada, de Gobierno, Sociedad Civil o Agencia:**

- Son publicaciones aisladas o no regulares, que utilizan lenguaje técnico. Pueden encontrarse publicadas en forma impresa o disponible en internet.

- **Publicación dirigida a la población general:** Estas publicaciones contienen lenguaje no técnico y están dirigidas a la población general. En ellas no suelen mencionarse los detalles metodológicos del trabajo. Pueden ser aisladas o periódicas y presentarse en forma impresa o en internet.

- **No publicado:**

No existe publicación formal de estos documentos, ni están disponibles en internet.

#  **Sin Dato:**

No ha sido posible encontrar el dato del estado de publicación del documento.

# **3. Diseño**

En razón de las diferentes situaciones que se plantean en la investigación, es que se han definido diferentes diseños de estudios epidemiológicos. La elección de un diseño adecuado es sumamente importante para el éxito y la eficiencia del estudio. Los tipos de diseño se clasifican en:

- Cohorte prospectiva

- Cohorte retrospectiva

- Ensayo clínico o estudio experimental

- Casos y controles

43
- Estudios transversales, también llamados de encuesta o de prevalencia:

- Encuesta serológica

- Encuesta de Conocimiento, Actitudes y Prácticas

- Encuestas Demográficas y de Salud

- Estudios transversales desarrollados sobre otros tópicos

- Serie de casos

- Otros

# **4. Población objetivo o universo.**

Este ítem toma en cuenta la población a la que fue dirigido cada estudio:

- Personas con VIH

- Hombres que tienen sexo con hombres

- Trabajadoras/Trabajadores sexuales

- Usuarios de drogas intravenosas

- Personas Privadas de Libertad

- Población Móvil

- Embarazadas

- Población General

- Jóvenes

- Otras poblaciones definidas por el país

# **Evaluación contenido metodológico**

Se definieron ocho ítems o características, vinculadas a las “buenas prácticas”. El análisis de estas características metodológicas permite recabar importante información como por ejemplo presencia de sesgos, poder estadístico, o factibilidad de realizar generalizaciones a partir de los hallazgos. Para cada una de ellas ha sido formulada una pregunta que puede ser respondida por sí o no. Si la respuesta es afirmativa se adjudica 1 punto; si es negativa corresponde 0. Tres de los ítems han sido ponderados por su importancia crítica y su resultado se multiplica por un factor de dos. Estos son, el tamaño de la muestra, la técnica de muestreo, y el desarrollo de acciones para reducir el error en la recolección de datos. Para finalizar se realiza la sumatoria de los resultados parciales, obteniéndose un puntaje total que ha sido tomado como índice de calidad del contenido metodológico. La escala de puntajes tiene un rango de 0 a 11. Se han definido dos puntos de corte en esta escala, considerándose que los puntajes de 8 o mayores representan calidad metodológica buena, los de 5 a 7 representan calidad intermedia y los de 4 o menores, calidad limitada.

# **1. Objetivo del estudio**

¿Se definen claramente el/los objetivos del estudio? ¿El desarrollo y los resultados del estudio responden a los mismos? La respuesta a ambas preguntas debe ser sí.

**Si= 1**

44
# **No= 0**

# **2. Criterios de inclusión**

¿Están establecidos y detallados cuales fueron los criterios para la inclusión / exclusión de los sujetos en la muestra?

**Si= 1**

**No= 0**

# **3. Tamaño de la muestra**

¿El tamaño de la muestra fue calculado permitiendo que el estudio tenga suficiente poder estadístico? ¿Se reclutó un número de sujetos cercano al calculado? La respuesta a ambas preguntas debe ser sí.

**Si= 1  (criterio ponderado x2) No= 0**

# **4. Técnica de muestreo**

¿Los individuos fueron seleccionados utilizando un método de muestreo probabilístico?

**Si= 1  (criterio ponderado x2) No= 0**

# **5. Técnicas para reducir el error de recolección de datos**

¿Se han realizado acciones tendientes a minimizar el error en la recolección de datos? **Si= 1 (criterio ponderado x2) No= 0**

# **6. Describe técnica/lógica del análisis de los datos**

¿El estudio presenta o describe cual ha sido el plan de análisis de los datos, que incluye análisis univariado, bivariado o multivariado (cuando corresponda) para dar respuesta a los objetivos del estudio?

**Si= 1**

**No= 0**

# **7. Limitaciones**

¿El estudio reconoce describe o evalúa la presencia de las limitaciones (sesgos) impuestas por la metodología?

**Si= 1**

**No= 0**

# **8. Significación estadística e intervalos de confianza**

¿Se presenta los resultados con adecuada valoración de sus intervalos de confianza y la significación estadística de los hallazgos?

**Si= 1**

**No= 0**

45
# **Puntos de corte en el puntaje total:**

**8 puntos y más:** Calidad metodológica buena **5 a 7 puntos:** Calidad metodológica intermedia **4 puntos y menos:** Calidad metodológica limitada

La Tabla 1A facilita el volcado de los datos obtenidos de cada estudio. En la página siguiente se muestra un ejemplo de su llenado.

46
**Tabla 1A. Clasificación metodológica de los estudios incluidos en la base de datos. País “X”, 2009.**

|**N**<sup>**o**</sup>|**Tipo de**<br>**Documento**|**Estado de**<br>**Publicación**|**Tipo de Estudio y**<br>**Diseño**|**Población**|**efine objetivo**|**efine Criterio**<br>**inclusión y**<br>**exclusión**|**C**<br>**álcula tamaño**<br>**de muestra**|**ontenid**<br>**Técnica de**<br>**muestreo**|**o Técnico**<br>**duce error de**<br>**recolección**|<br>**Técnica de**<br>**análisis**|**Describe**<br>**imitaciones**|**Significación**<br>**estadística**|**Puntaje**<br>**Max: 11**|
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
||||||**D**<br>|**D**<br>|**C**<br> <br>|**Ponde**<br>|**Re**<br> <br>**ración**<br>||**l**<br>|<br>||
||||||**1**|**1**|**2**|**2**|**2**|**1**|**1**|**1**||
|**1**|Monografía|No publicado|Transversal|Mujeres<br>histerectomizadas|1|1|0|0|0|0|0|1|3|
|**2**|Artículo<br>científico|Revista con<br>revisión depares|Experimental|Estudiantes|1|1|0|1|1|1|1|1|9|
|**3**|Artículo<br>científico|Revista con<br>revisión de pares|Transversal:<br>encuesta serológica<br>yCAP|Hombres que<br>tienen sexo con<br>hombres|1|1|1|0|1|1|1|1|9|
|**4**|Artículo<br>científico|Revista con<br>revisión depares|Transversal:<br>encuesta serológica|Trabajadoras<br>sexuales|1|1|1|0|1|1|1|1|9|
|**5**|Artículo<br>científico|Boletín oficial|Transversal:<br>encuesta serológica|Trabajadores<br>petroleros|1|0|0|0|0|1|0|0|2|
|**6**|Artículo<br>científico|Boletín oficial|Transversal:<br>encuesta serológica<br>yCAP|Trabajadoras<br>sexuales|1|0|0|0|1|1|0|1|5|
|**7**|Artículo<br>científico|Sin Dato|Transversal:<br>encuesta CAP|Mujeres<br>adolescentes|1|1|0|0|0|1|0|0|3|
|**8**|Informe<br>técnico|Publicación<br>técnica|Transversal:<br>encuesta<br>Demográfica y de<br>Salud Reproductiva|Población general|1|1|1|1|1|1|1|1|11|
|**9**|Informe<br>técnico|No publicado|Transversal:<br>encuesta CAP|Hombres que<br>tienen sexo con<br>hombres|1|0|1|0|1|1|0|0|6|
|**10**|Informe|Publicación|Transversal:<br>encuesta CAP|Jóvenes|1|1|1|1|1|1|0|0|9|
||técnico|técnica|Serie de casos|Trabajadoras<br>sexuales|1|0|0|0|1|1|0|0|4|

CAP: Conocimiento, Actitudes y Prácticas 47
# **<mark>Anexo 2: Agradecimientos</mark>**

Este documento se benefició de un proceso de revisión de pares que incluyó especialistas que revisaron las versiones en inglés y español del documento. Los autores desean agradecer y reconocer a los siguientes revisores (en orden alfabética por nombre) por proporcionar sus comentarios útiles como también sus puntos de vista: Amparo Gordillo Tobar, _Región Latinoamericana y el Caribe, Banco Mundial_ Andrea Boccardi Vidarte, _ONUSIDA Latinoamérica_ César Nuñez, _ONUSIDA Latinoamérica_ Claudia Velásquez, _ONUSIDA Latinoamérica_ Danilo Rayo, _Especialista, Nicaragua_ Hernán Laca, _Especialista, Uruguay_ Javier Jahnsen, _Especialista, Bolivia_ Marcelo Bortman, _Región Latinoamericana y el Caribe, Banco Mundial_ Marjolein Jacobs, _ONUSIDA Latinoamérica_ Olivier Grégoire, _Especialista, Bélgica_ Patricia Bracamonte, _ONUSIDA Latinoamérica_ Los autores aprecian los servicios de traducción y el apoyo editorial de Claudia J. Santos. Un agradecimiento especial va para Mario Méndez del Programa Global de VIH y SIDA, Salud, Nutrición y Población (HNP, por sus siglas en inglés), Red para el Desarrollo Humano (HDN, por sus siglas in inglés), Banco Mundial, por su apoyo en traducción y administración proporcionado al equipo. Cualquier error u omisión en el documento es únicamente el de los autores y no implica de ninguna manera a los individuos antes mencionados que indulgentemente proporcionaron sus comentarios y asesoramiento.

48