Inteligencia Artificial II

Curso 20042005

Tema 4: Aprendizaje de conceptos

Jos A. Alonso Jimnez e e Francisco Jes s Mart Mateos u n Jos Luis Ruiz Reina e

Dpto. de Ciencias de la Computacin e Inteligencia Articial o

Universidad de Sevilla

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.1

Contenido
x

Introduccin al aprendizaje automtico o a Aprendizaje de conceptos

u u u u u u u u

Notacin y terminolog o a Aprendizaje como b squeda u Orden de generalidad Algoritmo Find-S Espacio de versiones Eliminacin de candidatos o Clasicacin de nuevas instancias o Sesgo inductivo

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.2

Aprendizaje
x

Deniciones de aprendizaje:
u

Cualquier cambio en un sistema que le permita realizar la misma tarea de manera ms eciente la prxima vez (H. Simon) a o Modicar la representacin del mundo que se est percibiendo (R. Michalski) o a Realizar cambios utiles en nuestras mentes (M. Minsky)

u u

Aprendizaje automtico: construir programas que mejoran automticaa a mente con la experiencia Ejemplos de tareas:
u u u u

Construccin de bases de conocimiento a partir de la experiencia o Clasicacin y diagnstico o o Miner de datos, descubrir estructuras desconocidas en grandes grupos de datos a Resolucin de problemas, planicacin y accin o o o

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.3

Agente con aprendizaje (Russel y Norvig, 1998)

Critico
Retroalimentacion Cambios

Sensores

ENTORNO

Aprendizaje
Conocimiento Objetivos

Agente

Generador Problemas Actores

u u u u

Sistema de aprendizaje: realiza cambios al sistema en funcin del rendimiento o Agente: act a u Cr tico: eval a el rendimiento u Generador de Problemas: sugiere nuevas experiencias que entrenan

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.4

Tipos de aprendizaje y paradigmas

x

Tipos de aprendizaje
u u u

Supervisado No supervisado Con refuerzo

Paradigmas
u u u u u u

Aprendizaje por memorizacin o Clasicacin (Clustering) o Aprendizaje inductivo Aprendizaje por analog a Descubrimiento Algoritmos genticos, redes neuronales e

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.5

Aprendizaje de conceptos (ejemplo)

x

Ejemplos de d en los que hacer (o no hacer) deportes acuticos: as a

u

Representacin como una lista de pares atributovalor o

Cielo Soleado Soleado Lluvia Soleado

Temperatura Templada Templada Fr a Templada

Humedad Normal Alta Alta Alta

Viento Fuerte Fuerte Fuerte Fuerte

Agua Templada Templada Templada Fr a

Previsin o Igual Igual Cambio Cambio

Hacer Deporte S S No S

Objetivo: aprender el concepto D en los que se hace deporte as

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.6

Notacin y terminolog (I) o a

x

Conjunto X de instancias
u

Ejemplos de instancias: < Sol, T emplada, N ormal, F uerte, T emplada, Igual > < N ublado, F ria, Alta, F uerte, T emplada, Cambio > < Lluvia, Alta, Baja, Sin viento, Caliente, Igual >

Un concepto es un subconjunto de X, usualmente dado por su funcin o caracter stica c : X {1, 0}

u u

Instancias positivas y negativas Ejemplo de concepto: si x es un d en el que se hace deporte, c(x) = 1. En caso a contrario c(x) = 0

Concepto (o funcin) objetivo: el que se desea aprender o

u u

En principio, no se conoce Slo se conoce el valor de c para algunas instancias (ejemplos) o

Cc Ia
Aprendizaje de conceptos 4.7

IA-II 20042005

Notacin y terminolog (II) o a

x

Conjunto de entrenamiento D:
u

ejemplos de instancias x para las que se conoce el valor de la funcin objetivo c(x) o (representado por < x, c(x) >) En la tabla anterior, 3 ejemplos positivos y 1 negativo

Espacio de hiptesis H: o
u

Conjunto de funciones h : X {1, 0} que en el proceso de aprendizaje se pueden considerar como posibles deniciones del concepto objetivo Usualmente, en H no estn todos los posibles conceptos. Sesgo inductivo a

Objetivo del aprendizaje:

u

Encontrar h H tal que para cualquier ejemplo < x, c(x) > D, se tenga h(x) = c(x) (hiptesis consistente con los ejemplos) o Ejemplo de hiptesis aprendida: < Soleado, T emplada, ?, F uerte, ?, ? > o Hiptesis del Aprendizaje Inductivo o
Cc Ia
Aprendizaje de conceptos 4.8

u u

IA-II 20042005

Ejemplo de espacio de hiptesis o

x

Un posible espacio de hiptesis: o

u u

Conjuncin de restricciones sobre los valores de los atributos o Ejemplo de hiptesis: Los d para hacer deporte son los de cielo soleado, viento o as fuerte y con previsin de que el tiempo siga igual o

Representacin compacta: o
u

usar ? para representar un valor cualquiera para representar que ning n valor o u es posible Ejemplos: < Soleado, T emplada, ?, F uerte, ?, ? >, <?, F ria, Alta, ?, ?, ? >, < , , , , , >

Atencin: los algoritmos y deniciones de este tema NO son espec o cos de este tipo de espacio de hiptesis o

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.9

Aprendizaje como b squeda u

x

Aprendizaje de conceptos:
u

b squeda en el espacio de hiptesis de una o varias hiptesis consistentes con los u o o ejemplos del conjunto de entrenamiento.

Aprendizaje por enumeracin? o Problema: espacio de hiptesis exponencialmente grande o Solucin: estructurar el espacio de hiptesis o o
u

Permite explorar el espacio de hiptesis de manera exhaustiva sin necesidad de o enumerarlo

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.10

El orden de generalidad
x

Una instancia x X satisface la hiptesis h si h(x) = 1 o Dadas h1, h2 H, h1 es ms general que h2 (y h2 es ms espec a a ca que h1) si cualquier instancia que satisface h2 satisface h1.
u

Notacin: h1 g h2. Generalidad estricta: h1 >g h2 o

Ejemplo:

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.11

El algoritmo Find-S
x

Pseudocdigo: o 1. Inicialmente, h es la hiptesis ms especfica de H. o a 2. Por cada ejemplo positivo x del conjunto de entrenamiento: - Si h(x)=1, no hacer nada. - En otro caso, reemplazar h por la menor generalizacin o h de h, tal que h(x)=1 3. Devolver h

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.12

Find-S (ejemplo)
u

Paso 0: h0 = < , , , , >

Paso 1: Ejemplo positivo: x1 = <Sol,Templ,Normal,Fuerte,Templ,Igual> h1 = <Sol,Templ,Normal,Fuerte,Templ,Igual>

Paso 2: Ejemplo positivo: x2 = <Sol,Templ,Alta,Fuerte,Templ,Igual> h2 = <Sol,Templ, ?, Fuerte,Templ,Igual>

Paso 3: Ejemplo negativo: x3 = <Lluvia,Fria,Alta,Fuerte,Templada,Cambio>, h3 = h2

Paso 4: Ejemplo positivo: x4 = <Sol,Templ,Alta,Fuerte,Fria,Cambio> h4 = <Sol,Templ, ?, Fuerte, ?, ?>

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.13

Comentarios sobre Find-S

x

Propiedades de Find-S sobre espacios de hiptesis como conjuncin de o o atributos:

u

Find-S encuentra una hiptesis de mxima especicidad que es consistente con o a todos los ejemplos positivos Los ejemplos negativos se ignoran

Consistente con los ejemplos negativos?

u

S si el concepto objetivo est en H (expresividad del espacio de hiptesis) y los , a o ejemplos de entrenamiento son correctos (ausencia de ruido) Ejemplo problemtico a Positivos: < Sol, T empl, F uerte >, < Lluvia, F ria, F uerte > Negativos: < Luvia, T empl, F uerte >

Por qu devolver slo una hiptesis de las consistentes? e o o

Cc Ia

IA-II 20042005

Aprendizaje de conceptos

4.14

Espacio de versiones
x

Espacio de versiones: V SH,D {h H|h es consistente con D} Ejemplo: Cielo Soleado Soleado Lluvia Soleado Temperatura Templada Templada Fr a Templada Humedad Normal Alta Alta Alta Viento Fuerte Fuerte Fuerte Fuerte Agua Templada Templada Templada Fr a Previsin o Igual Igual Cambio Cambio Hacer Deporte S S No S

Espacio de versiones: < Soleado, T emplada, ?, F uerte, ?, ? > < Soleado, T emplada, ?, ?, ?, ? > < Soleado, ?, ?, ?, ?, ? > < Soleado, ?, ?, F uerte, ?, ? > <?, T emplada, ?, F uerte, ?, ? > <?, T emplada, ?, ?, ?, ? >

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.15

Una representacin compacta del espacio de versiones o

x

Deniciones
u

h H es una hiptesis de mxima generalidad (resp. de mxima especicidad) de o a a H si no existe h H tal que h >g h (resp. h >g h ) Cota general G de un espacio de hiptesis respecto de D: elementos de mxima o a generalidad del espacio de versiones Cota espec ca S de un espacio de hiptesis respecto de D: elementos de mxima o a especicidad del espacio de versiones

Teorema de representacin del espacio de versiones o

u

El espacio de versiones es el conjunto de hiptesis que estn entre la cota general o a y la cota espec ca V SH,D = {h H|(s S)(g G)(g g h g s)}

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.16

Ejemplo de espacio de versiones

} S: { <Sol., Templada, ?, Fuerte, ?, ?>

<Sol., ?, ?, Fuerte, ?, ?>

<Sol., Templada, ?, ?, ?, ?> <?, Templada, ?, Fuerte, ?, ?>

G:

{ <Sol., ?, ?, ?, ?, ?>, <?, Templada, ?, ?, ?, ?> }

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.17

Algoritmo de eliminacin de candidatos o

1. Sea G el conjunto de elementos de mxima generalidad de H. a 2. Sea S el conjunto de elementos de mxima especificidad de H. a 3. Para cada ejemplo d del conjunto de entrenamiento D: 3.1 Si d es un ejemplo positivo, entonces: 3.1.1 Eliminar de G cualquier hiptesis inconsistente con d. o 3.1.2 Para cada hiptesis s de S inconsistente con d: o * Eliminar s de S. * Incluir en S todas las generalizaciones minimales h de s, tales que h es consistente con d y existe una hiptesis en G ms general que h. o a * Eliminar de S aquellas hiptesis tales que exista en S otra hiptesis o o ms especfica. a 3.2 Si d es un ejemplo negativo, entonces: 3.2.1 Eliminar de S cualquier hiptesis inconsistente con d. o 3.2.2 Para cada hiptesis g de G inconsistente con d: o * Eliminar g de G. * Incluir en G todas las especializaciones minimales h de g, tales que h es consistente con d y existe una hiptesis en S ms especfica que h. o a * Eliminar de G aquellas hiptesis tales que exista en G otra hiptesis o o ms general. a
IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.18

Eliminacin de candidatos (ejemplo) o

x x

Paso 0: S0 = {< , , , , >}, G0 = {<?, ?, ?, ?, ?, ? >} Paso 1:

- Ejemplo positivo: < Sol, T empl, N ormal, F uerte, T empl, Igual > - Nada que eliminar de G0 - Generalizacin minimal de S0: < Sol, T empl, N ormal, F uerte, T empl, Igual > o Esta generalizacin es ms especfica que la hiptesis de G0 o a o - Luego: S1 = {< Sol, T empl, N ormal, F uerte, T empl, Igual >} G1 = {<?, ?, ?, ?, ?, ? >}

Paso 2:
- Ejemplo positivo: < Sol, T empl, Alta, F uerte, T empl, Igual > - Nada que eliminar de G1 - Generalizacin minimal de S1: < Sol, T empl, ?, F uerte, T empl, Igual > o Esta generalizacin es ms especfica que la hiptesis de G1 o a o - Luego: S2 = {< Sol, T empl, ?, F uerte, T empl, Igual >} G2 = {<?, ?, ?, ?, ?, ? >}

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.19

Eliminacin de candidatos (ejemplo) o

x

Paso 3:
- Ejemplo negativo: < Lluvia, F ria, Alta, F uerte, T emplada, Cambio > - Nada que eliminar de S2. - Especializaciones minimales de G2 que son ms generales que la hiptesis a o de S2: < Sol, ?, ?, ?, ?, ? >, <?, T empl, ?, ?, ?, ? > y <?, ?, ?, ?, ?, Igual >. - Luego: S3 = {< Sol, T empl, ?, F uerte, T empl, Igual >} G3 = {< Sol, ?, ?, ?, ?, ? >, <?, T empl, ?, ?, ?, ? >, <?, ?, ?, ?, ?, Igual >}

Paso 4:
- Ejemplo positivo: < Sol, T empl, Alta, F uerte, F ria, Cambio > - Eliminamos de G3 la hiptesis <?, ?, ?, ?, ?, Igual > o - Generalizacin minimal de S3: < Sol, T empl, ?, F uerte, ?, ? > o Esta generalizacin es ms especfica que hiptesis de G3. o a o - Luego: S4 = {< Sol, T empl, ?, F uerte, ?, ? >} G4 = {< Sol, ?, ?, ?, ?, ? >, <?, T empl, ?, ?, ?, ? >}

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.20

Algoritmo de eliminacin de candidatos (propiedades) o

x

Sean S y G obtenidos por eliminacin de candidatos o

u

Si S y G son no vac resultan ser respectivamente la cota espec os, ca y cota general del espacio de versiones (respecto del conjunto de entrenamiento) Si S = G = {h}, entonces h es la unica hiptesis de H consistente con todos los o ejemplos Si S = G = , no existe h H consistente con los ejemplos

Convergencia hacia el concepto objetivo, siempre que:

u u u

Conjunto de entrenamiento sucientemente grande Ejemplos sin errores (ausencia de ruido) El concepto objetivo est en H a

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.21

Eleccin de ejemplos o
x

Supongamos posible elegir el siguiente ejemplo

u

Estrategia ptima: requerir un ejemplo satisfecho por la mitad del espacio de vero siones

Ejemplo: < Soleado, T emplado, N ormal, Ligero, T emplado, Igual > Convergencia hacia el concepto objetivo (siempre que sea posible)
u

Con log2|V S| nuevos ejemplos

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.22

Clasicacin de nuevas instancias o

x

Usamos S y G obtenidos por eliminacin de candidatos para clasicar o nuevas instancias:

u u u

Si es consistente con todo S, positivo Si no es consistente con ninguno de G, negativo En otro caso, voto mayoritario o simplemente no se clasica

Ejemplos:
< Sol, T empl, N ormal, F uerte, F ria, Cambio > < Lluvia, F ria, N ormal, Suave, T empl, Igual > < Sol, F ria, N ormal, F uerte, T empl, Igual > < Sol, T empl, N ormal, Suave, T empl, Igual > -> S -> No -> S (por mayora) -> ?

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.23

Sesgo inductivo
x

Siempre que H = 2X , se tiene un sesgo en el tipo de conceptos que se pueden aprender Sesgo inductivo: cualquier medio que el sistema de aprendizaje pueda usar para tener preferencia entre dos hiptesis consistentes con los o ejemplos Tipos de sesgo inductivo:
u

Sesgo en el lenguaje: el lenguaje disponible para expresar las hiptesis dene un o espacio de hiptesis que excluye conceptos (por ejemplo, conjuncin de restriccioo o nes) Sesgo preferencial: el algoritmo de b squeda en el espacio de hiptesis incorpora u o impl citamente alguna preferencia de algunas hiptesis sobre otras o

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.24

Sesgo inductivo y aprendizaje

x

Inutilidad del aprendizaje insesgado

u u u

Espacio de versiones en un espacio de hiptesis insesgado o Eliminacin de candidatos obtendr S = {(p1 . . . pn)}, G = {(n1 . . . nm)} o a Una instancia nueva ser clasicada como positiva por la mitad del espacio de a versiones y negativa por la otra mitad

Un sistema de aprendizaje que no asume conocimiento a priori sobre el concepto objetivo no puede clasicar nuevas instancias
u

Concimiento a priori en eliminacin de candidatos: el concepto objetivo est en el o a espacio de hiptesis o

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.25

Bibliograf a
x

Mitchell, T.M. Machine Learning (McGraw-Hill, 1997)

u u

Cap. 1: Introduction Cap. 2: Concept Learning and the General-to-Specic Ordering

Russell, S. y Norvig, P. Inteligencia articial (Un enfoque moderno) (PrenticeHall Hispanoamericana, 1996)
u

Cap. 18: Aprendiendo de observaciones

IA-II 20042005

Cc Ia

Aprendizaje de conceptos

4.26