Was ist Sendefunke?
Was ist Sendefunke?

Video: Was ist Sendefunke?

Video: Was ist Sendefunke?
Video: Eisbrecher - Was ist hier los? (Offizielles Musikvideo - Live 2019) 2024, November
Anonim

Übertragen Variablen in Apache Funke ist ein Mechanismus für die gemeinsame Nutzung von Variablen durch Executoren, die schreibgeschützt sein sollen. Ohne übertragen Variablen Diese Variablen würden für jede Transformation und Aktion an jeden Executor gesendet, und dies kann Netzwerk-Overhead verursachen.

Zu wissen ist auch, wann ich Spark senden sollte?

Übertragen Variablen werden meistens verwendet, wenn die Aufgaben über mehrere Stufen hinweg dieselben Daten erfordern oder wenn die Daten in deserialisierter Form zwischengespeichert werden müssen. Übertragen Variablen werden mit einer Variablen v erstellt, indem SparkContext aufgerufen wird.

Man kann sich auch fragen, wie der Akkumulator den Funken definiert? Akkus sind Variablen, die nur durch eine assoziative Operation „hinzugefügt“werden und daher effizient parallel unterstützt werden können. Sie können verwendet werden, um Zähler (wie in MapReduce) oder Summen zu implementieren. Funke nativ unterstützt Akkumulatoren numerischer Typen, und Programmierer können Unterstützung für neue Typen hinzufügen.

Und was ist eine geteilte Variable in Spark?

Gemeinsame Variablen sind die Variablen die von vielen Funktionen und Methoden parallel verwendet werden müssen. Gemeinsame Variablen kann im Parallelbetrieb verwendet werden. Funke teilt den Job in die kleinstmögliche Operation, eine Closure, auf, die auf verschiedenen Knoten ausgeführt wird und von denen jeder eine Kopie aller Variablen des Funke Job.

Können wir einen DataFrame übertragen?

Funke kann “ übertragen ein kleines Datenrahmen indem Sie alle Daten in diesem kleinen senden Datenrahmen an alle Knoten im Cluster. Nach dem kleinen Datenrahmen ist ausgestrahlt , Funke kann Führen Sie einen Join durch, ohne die Daten im großen mischen zu müssen Datenrahmen.

Empfohlen: