Kas Spark saab lugeda kohalikke faile?
Kas Spark saab lugeda kohalikke faile?

Video: Kas Spark saab lugeda kohalikke faile?

Video: Kas Spark saab lugeda kohalikke faile?
Video: Скандальная Альбина_Рассказ_Слушать 2024, November
Anonim

Kuigi Säde toetab laadimist failid alates kohalik failisüsteemi, nõuab see, et failid on saadaval samal teel kõigis teie klastri sõlmedes. Mõned võrgufailisüsteemid, nagu NFS, AFS ja MapR-i NFS-kiht, on kasutajale avatud tavalise failisüsteemina.

Seejärel võib ka küsida, kuidas käivitada säde kohalikus režiimis?

sisse kohalik režiim , säde töökohad jooksma ühes masinas ja käivitatakse paralleelselt mitme keermestuse abil: see piirab paralleelsust (maksimaalselt) teie masina tuumade arvuga. To jooksma töökohad sisse kohalik režiim , peate esmalt reserveerima masina interaktiivses SLURM-i kaudu režiimis ja logige sisse.

Lisaks ülalolevale, mis on SC textFile? tekstifail on meetod org. apache. SparkContext klass, mis loeb a tekstifail HDFS-ist, kohalikust failisüsteemist (saadaval kõigis sõlmedes) või mis tahes Hadoopi toetatud failisüsteemi URI-st ja tagastage see stringide RDD-na.

Mis on sellega seoses sädefail?

The Sädefail on dokument, kus hoiate kogu oma loomingulist headust. Selle määratles autor Stephen Johnson. Nii et selle asemel, et keset ööd Post-it®-ile märkmeid kraapida või erinevaid ajakirju ideedele pühendada, pange kõik oma kontseptsioonid ühte faili.

Mis on paralleelselt kogumise säde?

Kirjeldame hajutatud andmekogumitega toiminguid hiljem. Paralleelsed kollektsioonid luuakse JavaSparkContexti kutsumisega paralleelseks meetod olemasoleval Kollektsioon oma draiveriprogrammis. Selle elemendid kogumine kopeeritakse, et moodustada hajutatud andmestik, mida saab paralleelselt kasutada.

Soovitan: