Professional Documents
Culture Documents
Índice de Contenidos
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
1
Introducción
Introducción (II)
2
Introducción (III)
Introducción (IV)
Objetivos
Requisitos Realimentación
CREACIÓN
Objetivos
DEFINICIÓN DE MÉTRICAS APLICACIÓN
Métricas Aceptadas
Métricas No
Aceptadas
EXPLICACIÓN PSICOLÓGICA
Métricas Válidas 6
3
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
4
Medición del Modelo de Datos (II)
Autores Propiedades
• Utilización
Se establecen Marcos de Referencia (conocidos en SMO
como Modelos de Calidad) que organizan y estructuran
los conceptos claves y características en el modelado
conceptual de los datos.
Algunos de estos marcos establecen dimensiones pero no
las métricas (medidas en SMO) ya que su definición es
compleja debido a la dependencia del usuario y de la
utilización que vaya a hacer de esos datos.
A continuación se exponen los marcos más importantes
(Piattini et al., 2006)
10
5
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
11
Verif. Consistencia
Validez viable Semántica formal
Semántica Inserción sentencias
Compleción viable Modificabilidad
Borrado sentencias
Inserción sentencias
Semántica percibida Borrado sentencias
Entrenamiento
Inspección
Visualización
Filtrado
Economía expresiva
Presentación diag.
Estética
Comprensión Parafrasear
Pragmática Explicación
viable
Entrenamiento
Ejecución
Ejecutabilidad Animación
Simulación
Análisis punto vista
Social Acuerdo viable Modelado conflicto Resolución conflicto
Fusión de modelos
12
6
Medición del Modelo Conceptual de Datos (II)
T IPO S D E Enfoque
D O M I IO M E D IO S
C A L ID A D teó rico
ad ecu ad o es logrado
clasifica
p ara p or
con tien e
rep resen ta
tien e
conocim iento L E G U A JE
de O B JE T IV O
usad o P R O P IE D A D
en
ad ecu ad o
para
M ODELO s e correspond e
A U D IE C IA in terp reta con se correspon d e A C T IV ID A D
con
se ocup a O
de
valu ado p or
M ETODO DE E nfoque
VALORES
pu ntú a E V A L U A C IO práctico
14
7
Medición del Modelo Conceptual de Datos (IV)
Calidad
Funcionamiento Ontología
Usabilidad Usabilidad
Mantenibilidad
(usuario) (diseñador)
Adecuación al ambiente
Compleción
Validez
Cohesión
Consistencia
Validez
Concisión
15
8
Medición del Modelo Conceptual de Datos (VI)
Número total de Atributos en un modelo ER, teniendo en cuenta los atributos de las relaciones como
A
los de las entidades. En este número se incluyen atributos simples, compuestos y multivaluados.
R Número total de Relaciones en una modelo ER, teniendo en cuenta solamente relaciones comunes.
1:R Número total de Relaciones 1:N (incluyendo también relaciones 1:1) en un modelo ER.
Índice de Contenidos
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
18
9
Medición del Modelo Lógico de Datos
19
Número de NA(T),
Atributos de Number of definida como el número de atributos de una tabla T
una Tabla Attributes
NFK(T),
Número de
Number of definida como el número de claves ajenas de una tabla T
Claves Ajenas
Foreign Keys
20
10
Medición del Modelo Lógico de Datos (III)
Attributes A = ∑ A(Ti )
i =1
21
11
Medición del Modelo Lógico de Datos (V)
Métrica Descripción
23
12
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
25
13
Medición de la Calidad de los Propios Datos (II)
27
14
Medición de la Calidad de los Propios Datos (IV)
29
30
15
Medición de la Calidad de los Propios Datos (VI)
• Otras dimensiones:
Accesibilidad
• Determinar el grado en el que un usuario puede acceder a
los datos.
31
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
32
16
Ontología de la Medición de la Calidad de Datos
Muchas Preguntas
Ejemplo de Medida (Escala Tipo Ratio)
17
Ontología de la Medición de la Calidad de Datos (II)
1..*
está relacionado con
1 0..*
Modelo de calidad evalúa
Concepto Medible
clase
1..* 1..*
1..*
0..*
*
sub-Concepto Medible
relaciona
definido para
incluye
0..* 1 1..*
pertenece a
0..*
0..* Entidad
compuesta de
35
36
18
Ontología de la Medición de la Calidad de Datos (IV)
•Aspectos Particulares:
Concepto Medible:
• Se corresponde con las dimensiones de calidad vistas en las
transparencias anteriores tanto para esquema como para los
propios datos
Entidad:
• Particularizaciones de las categorías de entidad
Categorías de Entidad:
• Se referirían a cualquiera de las entidades de la figura, pero nos
centraremos en los modelos y en los propios datos.
37
Atributo
• Se refiere a algo físico o conceptual que se pueda medir.
• Muchas veces la dificultad está en identificar esos atributos.
Modelo de Calidad
• Se refiere al conjunto de dimensiones que se aplican sobre
una determinada entidad (o categoría de entidad) para medir
un concepto medible sobre uno de los atributos.
• Para cada contexto se podría llegar a definir un Modelo de
Calidad válido para ese contexto.
38
19
Ontología de la Medición de la Calidad de Datos (VI)
1..* Unidad de
Medición
0..1
se define para
expresada en
0..* 1..*
0..*
se transforma en Medida tiene Escala
1..* 1
0..*
1..*
pertenece a
1
Tipo de Escala
39
40
20
Ontología de la Medición de la Calidad de Datos (VIII)
Elementos de la Sub-Ontología (II)
41
• Aspectos Particulares:
Medida:
• Son los valores que cuantitativamente indican la magnitud de
un concepto medible sobre una entidad. Esta medida es el
resultado de una medición directa, de una derivada o de un
indicador.
Medida Base:
• Es el resultado de medir directamente sobre la entidad: por
ejemplo número de atributos, número de tuplas,…
Medida Derivada:
• Es el resultado de combinar varias medidas bases o
derivadas según una función de cálculo.
• En numerosas ocasiones, para obtener una medida de los
propios datos hay que usar medidas base sobre el esquema
lógico. Por eso hay que integrar las medidas para los
esquemas conceptuales y/o lógicos con la forma de medir la
calidad de los propios datos.
42
21
Ontología de la Medición de la Calidad de Datos (X)
Clasificaciones Medidas:
• Dependencia del Modelo Lógico
– Medidas Dependientes del Modelo de Datos.
– Medidas Independientes del Modelo de Datos
• Dependencia del Contexto de los datos
– Medidas Dependientes (relacionadas con Reglas de Negocio)
– Medidas Independientes (son propias del esquema de la base de
datos)
Dependientes Independientes
de Contexto de Contexto
(Comparativas
o Semánticas) (Calculadas)
Independientes Fiabilidad,
del Modelo de Temporalidad, Compleción,
Datos (Sólo del
Credibilidad, Accesibilidad
Valor de los
Datos) Relevancia
Exactitud,
Dependientes Consistencia,
del Modelo de Cantidad Compleción
Datos apropiada de
datos,
43
Necesidad de Información
(from Caracterización y Objetivos)
0..*
satisface
1..* usa
Medida Base Medida Derivada Indicador
(from Medidas Software) (from Medidas Software) (from Medidas Software)
1..*
usa
1..*
Forma de Medir
(from Acción de Medir)
Criterio de Decisión
44
22
Ontología de la Medición de la Calidad de Datos (XII)
Elementos de la Sub-Ontología
45
46
23
Ontología de la Medición de la Calidad de Datos (XIV)
• Aspectos particulares:
Observaciones:
• En ocasiones es preciso utilizar varias medidas base para llegar a una
medida.
• Es frecuente que para obtener una medida haya que comparar el valor
del atributo o un valor relacionado con él con un valor umbral en el
sentido del concepto medible.
– Tanto el esquema conceptual como el lógico tienen que dar soporte para el
almacenamiento de los valores relacionados con los propios datos. (Wang,
1998)
• Las relacionadas con los propios datos suelen basarse en una
comparación objetiva con las reglas de negocio
Método de Medición
• Sirve para describir cómo obtener una medida base. Implica una
secuencia de pasos finitos y ordenados que explican como obtener un
valor para dicha medida base.
– Ejemplos:
» Contar el número de valores nulos que hay para una tupla NVN(Tupla)
» Contar el número de atributos de una tabla (NA(T))
» Contar el número de valores que no pertenecen al dominio de un
atributo
47
Función de Cálculo
• Es el “método de medición” para una medida derivada a partir de
una o varias bases. Se aplica cuando la medida no necesita
basarse en aspectos subjetivos de los usuario. Por ejemplo, contar
el número de valores nulos de una tabla.
• Es necesario que el SGBDR de soporte a las reglas de negocio y
que éstas se implementen.
• Ejemplo:
– Para medir la compleción (concepto medible) de una tupla (entidad), se
puede definir la Densidad de Atributos Nulos (medida derivada) como
la proporción del Número de Atributos Nulos (medida base) que tiene
una determinado tupla (atributo) y dependerá tanto del número de
atributos como del número de valores nulos para esa tupla.
V (T )
DA (T ) =
A(T )
– Es importante observar que NA(T) es una medida base del esquema del
modelo lógico en el que está la tabla T.
48
24
Ontología de la Medición de la Calidad de Datos (XVI)
Modelo de Análisis
• Se aplica cuando para calcular la medida es necesario establecer
ciertos criterios para poder comparar el valor del dato u otro
relacionado con él con un valor umbral para el concepto medible con
sentido en el contexto de los datos. Esta comparación puede ser:
– Comparación objetiva con un valor umbral proporcionado y accesible.
» Ejemplo: en función de la diferencia de los datos correspondientes
a los valores de bolsa que hayan sido guardados en la base de
datos antes de la hora de la última transacción (guardada en otra
base de datos) la medida tomará un valor mayor o más pequeño.
– Comparación subjetiva con la opinión de un usuario expresada en
forma cuantitativa.
» Ejemplo: Se quiere conocer el grado de confiabilidad de unos
datos y se le pregunta al usuario qué opina sobre ese dato.
– Cuando en vez del valor del dato se necesite comparar con otro valor
asociado es preciso adaptar el esquema de la base de datos para que de
soporte al almacenamiento de estos nuevos valores.
» Ejemplo: Si se quisiera saber si una tupla está actualizada, habría
que almacenar en la base de datos la fecha en la que se produjo la
última actualización y tener un criterio de decisión que decida si
está o no actualizada, comparando ese valor de
FechaUltimaActualización con por ejemplo FechaDelSistema.
49
50
25
Ontología de la Medición de la Calidad de Datos (XVIII)
1
Muchas de estas métricas se pueden definir de la misma forma sobre distintas entidades,
por lo que habría que identificar dichas entidades y adaptar la definición a ellas.
51
Volatilidad (T )
52
26
Ontología de la Medición de la Calidad de Datos (XX)
1 1
se realiza sobre
se realiza sobre
* *
1 ejecuta * Medición
Forma de Medir
instanteTemporal
*
1
usa produce
1 1
Resultado de la
Medida Medición
(from Medidas Software)
valor
53
27
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
55
Metodología CALIDAT
Planes de Medición
• Planes de Medición
El proceso de medición influye en la propia medida
Es necesario desarrollar planes de Medición
Por cada métrica/medida es necesario (Redman, 2001) indicar:
• Dónde se va a realizar la medida
• Qué datos van a ser incluidos en la medida
• El dispositivo de medición
• La escala de la medición
Proponemos completar estos pasos con los conceptos
presentados en la Ontología de la Medición:
• Quién va a realizar la medición
• Cómo se va a modelar el contexto para poder comparar
• Dónde se van a guardar los valores para ciertos conceptos medibles
necesarios.
• Cómo se van a guardar según la Tecnología de la base de datos.
• Cuándo se va a realizar
• Dónde se va a almacenar los resultados
• A quiénes se van a presentar.
• Cómo se van a representar los resultados
El resultado es la Metodología CALIDAT para la definición de
Planes de Medición de la Calidad de los Datos.
56
28
Metodología CALIDAT
Uso de Subrogados
57
Metodología CALIDAT
Tablas Anidadas
58
29
Metodología CALIDAT
Visión Global
Requisitos de 1.
1. Documentación del Sistema de
calidad de Usuario Identificación Almacenamiento de Datos
Identificación
de
deObjetivos
Objetivosyy
Medidas.
Medidas.
3.
3.
Medición
Medicióndede
Atributos
Atributosde
de Valoración de la
Calidad.
Calidad. Calidad de Datos.
59
Metodología CALIDAT
Actividad 1 – Visión Global
Estándares internos de
documentación de resultados Documentación del Sistema de
Requisitos de calidad
del usuario. 1.1. Almacenamiento de Datos
1.1. (Catálogo de la BD)
Identificación
Identificaciónde
delas
las
necesidades de
necesidades de
información
información
Objetivos de
ecesidades de Información
1.2. 1.3.
1.2. 1.3.
Identificación
Identificaciónde
delos
los Identificación
Identificacióndedelas
las
Conceptos Medibles Entidades y sus
Conceptos Medibles Entidades y sus
Lista de Conceptos atributos a valorar
atributos a valorar
Medibles
Lista de Conceptos Localización física,
Medibles temporal y de los
atributos de las entidades
1.4. que van a ser medidos.
1.4.
Definición
Definicióndedelos
los
Criterios de Decisión
Criterios de Decisión
Criterios de Decisión
60
30
Metodología CALIDAT
Actividad 1 – Tarea 1.1
Requisitos de calidad
del usuario.
1.1.
1.1. ecesidades de
Identificación
Identificaciónde
de Información.
Resultados Encuestas las
y entrevistas
lasnecesidades
necesidades
de
deinformación.
información.
Estándares de
documentación
61
Metodología CALIDAT
Actividad 1 – Tarea 1.2
1.2.2.
1.2.2. Formas de
Definición
Definiciónde
de Medir
las
lasFormas
Formasdede
Medir
Medir
62
31
Metodología CALIDAT
Actividad 1 – Tarea 1.3
1.3.1.
1.3.1.
Determinación
Determinacióndedelala Parámetros del
ecesidades de cantidad
cantidadde
dedatos
datosaa
Información valorar. muestreo
valorar.
1.3.2.
1.3.2. Agenda para la
Requisitos de calidad Elección
Elecciónde
delos
los
momentos medición
del usuario. momentosde demedición
medición de datos
yyde evaluación
de evaluación
Estándares de
documentación. 1.3.3.
1.3.3.
Localización
Localizacióndedelos
los
Ubicación física y/o
atributos
atributosaamedir.
medir. lógica de los datos.
Documentación del
Esquema
(Catálogo de la BD).
1.3.4.
1.3.4.
Identificación Lista de las fuentes de
Identificaciónde
delas
las
fuentes
fuentesde
dedatos.
datos. datos
63
Metodología CALIDAT
Actividad 1 – Tarea 1.4
Requisitos de calidad
del usuario.
1.4.
1.4. Criterios de Decisión
Identificación
Identificación
de
delos
loscriterios
criterios
de
dedecisión
decisión
ecesidades de
Información.
64
32
Metodología CALIDAT
Actividad 2 – Visión Global
Contexto
Modelado
¿Hay base de
¿Hay base de SI
datos?
datos?
Documentación del
Sistema de
Almacenamiento de ¿Hay
O datos.
¿Hay
estructura de
estructura
Calidad? de
(Catálogo de la BD) SI Calidad?
¿Es necesario NO
¿Es necesario
modificarla?
modificarla?
SI
2.1.
2.1. 2.3.
2.3. 2.2.
2.2.
Crear
Crearuna
unaBD
BD Modificar
Modificarla
la Crear
Crear
NO
con Calidad.
con Calidad. estructura
estructurade
de estructura
estructuradede
calidad
calidad Calidad
Calidadpara
paraBD
BD
Metodología CALIDAT
Actividad 2– Tarea 2.1
SGBD:
•Relacional
Requisitos del •Objeto-Relacional
usuario para la
BD. 2.1.1.
2.1.1. 2.1.3.
2.1.3.
Diseño
Diseño Conversión
Conversióndeldel
Esquema
Esquema esquema
esquemaE/R E/R
Conceptual
Conceptual extendido
extendidoal al
Esquema
EsquemaLógico.
Lógico.
Esquema Físico. 66
33
Metodología CALIDAT
Actividad 2 – Tarea 2.2
2.2.1.
2.2.1. 2.2.2.
2.2.2. 2.2.3.
2.2.3.
Determinar
Determinarel el Determinar
Determinarel el Insertar
Insertarenenla
la
tipo
tipode
dedato
datodel
del tipo
tipode
dedato
datodel
del tabla
tablaorigen
origenun
un
atributo
atributoaa subrogado.
subrogado. campo
campopara
parael
el
valorar.
valorar. subrogado.
subrogado.
2.2.6.
2.2.6. 2.2.5.
2.2.5. 2.2.4.
2.2.4.
Rellenar
Rellenarlala Crear
Crearla
latabla
tabla Crear
Crearununvalor
valor
tabla
tabla destino
destino destino.
destino. para
paracada
cadauna
una
con
conlos
losvalores
valores de
delas
lasfilas
filasdel
del
de
delalaorigen
origen subrogado
subrogado
67
Metodología CALIDAT
Actividad 2 – Tarea 2.3
¿Qué
¿Qué
acción
acciónse
se
desea?
desea?
2.3.1.
2.3.1. 2.3.2.
2.3.2. 2.3.3.
2.3.3. 2.3.4.
2.3.4.
Borrar
Borrarunun Agregar
Agregarun un Agregar
Agregarun un Modificar
Modificarlas
las
atributo
atributodede atributo
atributodede atributo
atributodede características
características
calidad
calidadde
deuna
una calidad.
calidad. calidad.
calidad. de
deun
unatributo
atributo
tabla.
tabla. de
decalidad.
calidad.
68
34
Metodología CALIDAT
Actividad 2 – Tarea 2.3 – Subtareas 2.3.1 y 2.3.2
o Sí o Sí
2.3.1.1
2.3.1.1 2.3.1.2
2.3.1.2 2.3.2.1
2.3.2.1 2.3.2.2
2.3.2.2
Deshacer
Deshacerelel Borrar
Borrarelel Añadir
Añadirelelindicador
indicador Crear
Crearuna
unatabla
tabla
subrogado
subrogado subrogado
subrogadosin sin normalmente
normalmente destino
destinonueva.
nueva.
más
más
69
Metodología CALIDAT
Actividad 3 – Visión Global
o ¿Es Sí
¿Es
necesario
necesario
medir?
medir?
3.1.
3.1. 3.2.
3.2.
Las
Lasnecesidades
necesidadesdede Las
Las necesidadesde
necesidades de
Información
Informaciónnono Información
Información
requieren
requierennuevas requieren
nuevas requieren nuevas
nuevas
mediciones.
mediciones. mediciones.
mediciones.
70
35
Metodología CALIDAT
Actividad 3 – Tarea 2
3.2.1.
3.2.1. 3.2.2.
3.2.2. 3.2.3.
3.2.3.
Recogida
Recogidade de Recuperación
Recuperación Comparación
Comparaciónde de
valores
valoresde
delala del
delvalor
valordel
del ambos
ambosenenlala
fuente
fuentedededatos.
datos. sistema
sistemade de dimensión
dimensiónde de
almacenamiento
almacenamiento calidad.
calidad.
3.2.5.
3.2.5. 3.2.4.
3.2.4.
almacenamiento
almacenamiento Generación
Generaciónde de
de
de estenuevo
este nuevo un
un nuevovalor
nuevo valor
valor
valoren
ensu
susitio
sitio para
paraelelindicador
indicador
correspondiente
correspondiente
71
Metodología CALIDAT
Actividad 4 – Visión Global
o se requiere muestreo
¿Se requiere
Sí
¿Se requiere
muestreo?
muestreo?
4.1
4.1
Sí Calcular
4.4. Calcularparámetros
parámetros
4.4. necesarios
Calcular necesariospara
paraelel
Calcularestadísticos
estadísticos muestreo.
según muestreo.
segúntipo
tipode
de
análisis
análisis arealizar.
a realizar. ¿Se admite la
¿Se admite la
muestra?
muestra?
4.2.
4.2.
Ejecución
EjecuciónPlan
Plan
o
Muestreo
Muestreo
4.5.
4.5. 4.3.
4.3.
Representación
Representaciónde Replanificación
de Replanificacióndel
del
los
los Muestreo
Muestreo
resultados.
resultados.
72
36
Metodología CALIDAT
Resultados que deberían Obtenerse
18
16
Porcentaje de Desfase
14
12
10
Datos inválidos encontrados 8
6
Datos con 4
Datos formato 2
Redundantes inadecuado 0
15% 7% Datos 1 2 3 4 5 6 7 8 9
Inexactos
25% Número de Datos
Datos
Incompletos
53%
Datos Inválidos Encontrados
Datos Inexactos
Datos Incompletos
Índice
1. Introducción
2. Medición del Modelo de Datos
3. Medición del Modelo Conceptual de Datos
4. Medición del Modelo Lógico de Datos
5. Medición de los Propios Datos
6. Ontología de la Medición de Calidad de los Datos
7. Planes de Medición de Calidad de Datos
8. Bibliografía y Referencias
74
37
Bibliografía y Referencias
• Batini, C., C. S., et al. (1992). Conceptual database design. An entity relationship
approach., Benjamin Cummings Publishing Company.
• Batini, C. and M. Scannapieco (2006). Data Quality: Concepts, Methodologies
and Techniques. Berlin, Springer-Verlag Berlin Heidelberg.
• Boman, M., J. Bubenko, et al. ((1997)). Conceptual Modelling., Prentice Hall.
• English, L. (1999). Improving Data Warehouse and Business Information Quality:
Methods for reducing costs and increasing Profits. New York, NY, USA, Willey &
Sons.
• García, F., M. F. Bertoa, et al. (2005). "Towards a consistent terminology for
software measurement." Information and Software Technology 48(2006): 631-
644.
• Huang, K. T., Y. W. Lee, et al. (1999). Quality Information and Knowledge. Upper
Saddle River, NJ, USA, Prentice-Hall.
• Kesh, S. (1995). "Evaluating the Quality of Entity Relationship Models."
Information and Software Technology. Special Issue on Controlled Experiments in
Software Engineering 37(12): 681-689.
• Lee, Y. W., L. L. Pipino, et al. (2006). Journey to Data Quality. Cambridge, MA,
USA, Massachussets Institute of Technology.
• Lindland, O., G. Sindre, et al. (1994). "Understanding Quality in Conceptual
Modelling." IEEE Software 11(2): 42-49.
• Maier, R. (2001). Organizational concepts and measures for the evaluation of
data modelling. Developing quality complex databases systems: practices,
techniques and technologies. B. S. Hershey, PA, USA, Idea Group Publishing: 1-
27.
75
76
38