Project Multimodale Interactie (N2)

Multimodale interactie

De computer die je aanvoelt

Kan een computer aanvoelen met welk been jij vanmorgen uit bed bent gestapt? 80% van onze communicatie is non-verbaal, maar hoe werkt dat bij de interactie tussen mens en machine?

Leer een computer emoties aan te voelen. Communicatie tussen mens en machine bereikt zo een nieuw niveau.

Methoden

De computer leert te reageren op intenties en emoties. Hij:

  1. stelt je stemming en intenties vast door te letten op jouw:
    • spraak
    • lichaamshouding
    • gezichtsexpressies
    • context

  2. genereert feedback. Zo handhaaft/ veroorzaakt hij jouw gewenste toestand/ acties.

Toepassingen

Interfacing Collaborative

Een VJ die beeld- en geluiddata verwerkt tijdens een culturele bijeenkomst. Een operator die dit soort data in een controlekamer verwerkt. Toepassingen zijn er in uiteenlopende domeinen. Wij zoeken daarin continu naar betekenisvolle acties en toestanden.









Participanten

Onderzoekers van

  • TU Delft

  • TNO

werken samen met:

  • Waag Society: Keyworx- en Scratchworx-platforms

  • V2_ : MUSH interface (herkent gebaren)

  • VicarVision: FaceReader-software (sensor van basisemoties op basis van camerabeeld)

  • LogicaCMG: technologie die locaties kan bepalen

Er is één grote werktafel ingericht waar meerdere werkpakketten op liggen. Zo komen wij tot geïntegreerde oplossingen met vele dwarsverbanden.

Projectleider: Prof. dr. Mark Neerincx, TNO

Neerincx

E-mail: mark.neerincx@tno.nl


Kenmerken Leren (N1)
Multimodale Interactie (N2)
Ambient Multimedia Databases (N3)
Semantische Multimedia Toegang (N5)
Professional's Dashboard (N6)
Video In Je Vingers (N7)
E-Culture (N9C)
Persoonlijke Informatie Services (N9MI)