Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten

Transcrição

Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Freie Suchmaschinen für freie Daten:
SearchEngine
Unzensierbarkeit,
Selbstbestimmung,
erweiterte Möglichkeiten
Michael Christen, [email protected]
Summit Of New Thinking, 16.11.2012
Station Berlin, Berlin
Abstract
SearchEngine
Suchmaschinen sind durch ihre Ergebnisauswahl meinungsbildend, sie führen uns durch das
Ergebnisranking selektiv zu Informationen und beeinflussen letztendlich Normen und Werte von
Gemeinschaften. Die Nutzer sind es gewohnt, dass Suchportale für sie bereitgestellt werden, aber
welche Vorteile kann es haben, wenn die Nutzer selbst die Suchmaschine für sich und andere
bereitstellen?
Zwischen Open Data und dem Nutzer sollte eine eine freie Suche existieren und der Vortrag zeigt, u.a.
in live-Demos, wie dies jede(r) leicht selbst machen kann. So manche mögliche Anwendungen von
Suchmaschinentechnik wird von den Suchportalen nicht angeboten und das hat ggf. wirtschaftliche
und politische Gründe: eigene Relevanz-Regeln, Suchergebnisse mit themenorientierter
Ergebnisnavigation, Datei-Suche im Internet und im Intranet mit integriertem Massen-Downloader,
virtuelles Browsen auf Webservern wie auf Fileservern und der persönliche Nachrichtendienst ist
einfach zu realisieren.
Der Vortrag macht die Zuhörer mit der freien Software Solr und YaCy sowie mit Suchmaschinentechnik
im allgemeinen vertraut. YaCy ermöglicht außerdem die Peer-to-Peer Vernetzung der
Suchmaschinennutzer und erzeugt damit ein dezentrales, unzensierbares Suchmaschinennetz. Es
werden Wissensmanagement-Methoden mit Hilfe von Suchmaschinen und alternative Visualisierungen
von Suchergebnissen gezeigt.
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Bürgerrechte für eine nachhaltige Wissensgesellschaft:
UNO Weltgipfel zur Informationsgesellschaft 2003
Beitrag der Heinrich-Böll-Stiftung
(a) Wissen ist Erbe und Besitz der Menschheit und
damit frei.
(b) Der Zugriff auf Wissen muss frei sein.
(c) Alle Menschen haben das Recht auf Kommunikation
und Informationsfreiheit.
(d) Das Recht auf Achtung der Privatheit ist ein
Menschenrecht und ist unabdingbar für die freie
und selbstbestimmte Entfaltung von Menschen in der
Wissensgesellschaft.
aus: http://www.worldsummit2003.de/de/web/52.htm
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
(zentrale) Suchportale
... können Verhaltensprofile
der Benutzer anlegen
... Zensur, Verschleierung,
Verschmutzung möglich
... besitzen (genau
wie ,Clouds‘) Personendaten
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Zugriff auf Wissen Brücke zwischen Daten und Nutzer
freie Daten können nur dann wirklich frei sein wenn
sie mit freier Software gefunden werden können
freie Daten
Suche
Nutzer
u.a.:
Suchmaschinenmonopol:
freie Software
proprietäre und
zentralisierte Technik,
Aufzeichnung aller
Datenspuren, Zensur,
Filterung, Löschung,
Verschmutzung durch
Werbung
Der Nutzer ist auf die
Existenz und korrekte
Funktion proprietärer,
zentralisierter und
kontrollierter Suchportale
angewiesen, um freie
Inhalte finden zu können
Daten unter Creative
Commons Lizenz
Open Access Archive
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Zugriff auf Wissen Brücke zwischen Daten und Nutzer
freie Daten können nur dann wirklich frei sein wenn
sie mit freier Software gefunden werden können
freie Daten
Ranking
Suche
Ordnung
Nutzer
Relevanz
Gemeinschaft
In einer geschlossenen Gemeinschaft existieren bestimmte Relevanzkriterien. Ranking beeinflusst Normen und Werte einer Gemeinschaft!
Suchmaschinen haben einen kulturellen Einfluss auf Gemeinschaften!
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Die eigene Suchmaschine
Unabhängigkeit
...von zentralen Suchportalen: den eigenen Suchindex erstellen
und die Suchfunktionen den eigenen Anforderungen anpassen.
Privatsphäre
...Du bist der Suchmaschinenbetreiber: niemand sonst
beobachtet die Nutzung!
Informationsfreiheit
keine Zugriffsgrenzen, keine Zensur, keine Filter, keine
Beobachtung durch andere Betreiber,
keine ,Verschmutzung‘ (Werbung) und die eigene Relevanz
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Wissen wie Suchmaschinen funktionieren
search server
web interface
I
crawler
api
search index
opensearch gsa
robots balancer queues
schema
facets
network interfaces
ranking
moderation
file http ftp smb oai-pmh
doc
parser
document cache
pdf
xls html rss zip eml
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
solr
monitoring
I/O requests Disk/RAM
administration/
steering
Michael Christen
[email protected], http://yacy.net
Web-Suche
Projekt- und Unternehmensdaten
Peer-to-PeerSuche
Suche für
Web-Portal
Intranet- und
Filesuche
den Suchindex
mit anderen
teilen
geteiltes Wissen
für verteilte
Systeme
Konsolidierung
der Datenablage
(ftp/smb-Suche)
Zuflucht für
gefährdete
Daten
Nachrichtendienste
SEO & WebAdmin Tools
automatisches
Suchen ohne
Suchananfrage
fremde Server
durchstöbern
und Strukturen
analysieren
z.B. torrents
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Peer-to-PeerSuche
vertical scaling: more performance
den Suchindex
mit anderen
teilen
A Search Engine Cluster consist of
independent search engines in
the form of a search matrix.
Search Engine Cluster
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
Search
Engine
horizontal scaling: more documents
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Peer-to-PeerSuche
den Suchindex
mit anderen
teilen
We want to take the search
matrix out of the data center to
your home.
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Search
Engine
Peer
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
The YaCy Search Engine Cluster
consist of independent search
engines, but they are connected
in an efficient way using a
distributed hash table.
Peer-to-PeerSuche
den Suchindex
mit anderen
teilen
Peer
Peer
Peer
Peer
Crawl the web, create a
web index, distribute
the index
Peer
Peer
Peer
DHT
Peer
Peer
Distributed Hash Table
Peer
Search in a
Distributed Hash Table
Peer
Peer
DHT-Store
Peer
Peer
Peer
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Peer
DHT-Read
Michael Christen
[email protected], http://yacy.net
Peer-to-PeerSuche
den Suchindex
mit anderen
teilen
Everyone can join the network.
Eveyone can contribute to the search index.
Nobody can censor the global index.
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Web-Suche
Projekt- und Unternehmensdaten
Peer-to-PeerSuche
Suche für
Web-Portal
Intranet- und
Filesuche
den Suchindex
mit anderen
teilen
geteiltes Wissen
für verteilte
Systeme
Konsolidierung
der Datenablage
(ftp/smb-Suche)
Zuflucht für
gefährdete
Daten
Nachrichtendienste
SEO & WebAdmin Tools
automatisches
Suchen ohne
Suchananfrage
fremde Server
durchstöbern
und Strukturen
analysieren
z.B. torrents
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
- Vernetzung von Wissen
Suche für
Web-Portal
- Vernetzung von Menschen
SearchEngine
geteiltes Wissen
für verteilte
Systeme
technologische Ebene (,wie setze ich Technik ein‘)
soziotechnische Ebene (,wie gehe ich mit Technik um‘)
Create and Share
Produktion
Dokumente
Versionskontrolle
(micro)Blogging
Projektsteuerung
Discussion
Bugtracker
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Vernetzung von Menschen
Vernetzung von Wissen
Suchmaschine
YaCy als Suchappliance mit vielfältiger Datenerfassung
Viele Datenerfassungsfunktionen
- Crawler für http(s), ftp, smb, robots.txt-compliant, Web Cache
- Netzwerkscanner für Intranet, viele Parser!
- RSS Feed Importer, OAI-PMH Importer, Import von Dublin Core
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy als Suchappliance mit Transparenz
Crawler, Linkstrukturanalyse und Host Statistik
- Host Browser: Analyse der Ziel-Host Filesystemstruktur
- Robots Browser und Massen-Zielanalyse
- Netzwerk Graph: Link Strukture Visualisation
- Qualitätssicherungswerkzeug für Web-Adminis (dead links etc.)
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy als Suchappliance mit aussergewöhnlicher Suche!
Eingebaute Suchinterfaces
- Solr XML + Result Writer: rss, opensearch, xslt, yjson
- GSA Result Writer für die Google Search Appliance Search API
- ,traditionelles‘ Suchinterface und Facetten (host, filetype, protocol)
- Pop-up Suchinterface
- File Suche mit Dateitypen Navigation und Download Hack
- Autocompletion API (entsprechend opensearch.org suggestions)
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy als Suchappliance bereit für automatischen Betrieb
Produktionssteuerung
- Scheduler für wiederkehrende Prozesse
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Peer-to-Peer Netzteilnehmer
freie dezentrale Suchmaschine für alle
freeworld:
http://search.yacy.net
Suchmaschine, bestehend
aus den Peers freiwilliger
1200 Peers im Monat,
weltweit verteilt
> 1 Milliarde Dokumente
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Separates Peer-to-Peer Netz
Suchmaschine für wissenschaftliche Publikationen
Sciencenet:
http://sciencenet.kit.edu
Suchmaschine des
Karlsruhe Institut für
Technologie
35 Peers in eigenem Netz,
> 200 Mio. Dokumente
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Portalsuche - forum.yacy.de
http://yacy.net
YaCy Community
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Portalsuche - fsfe.org
http://fsfe.org
Free Software Foundation Europe
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Portalsuche - www.uni-mainz.de
http://www.uni-mainz.de/
Gutenberg-Universität Mainz
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Portalsuche - www.kit.edu
http://www.kit.edu
Karlsruhe Intitut für Technologie
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
YaCy Beispiele: Portalsuche - metager.de
metager +
metager2
YaCy Peers werden von metager
und metager2 genutzt
http://www.metager.de
MetaGer - Meta-Suchmaschine der
Leibniz Universität Hannover
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Zusammenfassung
SearchEngine
1. Der Zugang zum Wissen und das Recht auf Privatheit
ist ein Menschenrecht. Gemeinschaften brauchen eigene
Bewertungsmechanismen in Suchmaschinen.
Zentrale Suchportale können diese Bedürfnisse nicht erfüllen. Es
besteht ein Bedarf für dezentrale (=persönliche) Suchmaschinen.
2. Wir haben Suchszenarien vorgeführt die von bekannten
Suchmaschinen nicht angeboten werden.
Insbesondere freie Inhalte brauchen angepasste und
angemessene Suchtechniken!
3. Wir haben ein wenig Suchmaschinentechnik erklärt.
Es ist wichtig zu wissen wie solche Software funktioniert, sonst
kann es nicht von jeder Person eingesetzt werden.
4. Bitte unterstützt die Idee der freien Suche!
Mach ein Suchportal, das ist nicht schwer! Wir unterstützen Dich!
(-> YaCy Forum)
Freie Suchmaschinen für freie Daten:
Unzensierbarkeit, Selbstbestimmung, erweiterte Möglichkeiten
Summit Of New Thinking, Berlin, 16.11.2012
Michael Christen
[email protected], http://yacy.net
Vielen Dank fürs Zuhören!
SearchEngine
Dipl. Inf. Michael Christen,
[email protected]
http://yacy.net
Twitter @yacy_search
Download
http://yacy.net
Development
https://gitorious.org/yacy
Discussion
http://forum.yacy.de
Bugs
http://bugs.yacy.net
News
Documentation
http://twitter.com/yacy_search http://wiki.yacy.net
http://yacy-kochbuch.de
QR-Code: vCard

Documentos relacionados