100%ig Zuverlässige TCP/IP Kommunikation...
-
Hallo!
Ich stehe gerade auf dem Schlauch... ich brauche eine 100%ig zuverlässige TCP/IP Kommunikation. Also:
- Der Sender (Client) muss 100%ig zuverlässig wissen, ob der Empfänger (Server) die Nachricht erhalten hat
- Der Empfänger (Server) muss 100%ig zuverlässig wissen, dass der Sender (Client) erfahren hat, dass der Empfänger die Nachricht erhalten hatIrgendwie beisst sich da Gerade der Hund in den Schwanz... ich finde so auf die schnelle keine Lösung dafür...
Weiss jemand Rat? Hat jemand sowas schon mal gemacht?
PS: Mir würde es ausreichen, wenn man für jede Nachricht eine neue Verbindung zwischen CLient und Server aufbaut; das ich für mich als Beispiel ok.
-
Quelle sendet Datenpakete am Empfänger
der Empfänger quitiert das der Quelle, damit weiss die Quelle, dass die Pakete gesendet würde. Reicht das nicht oder willst du quasi die quitierung die automatisch passiert dokumentieren? O.O
-
Jochen Kalmbach schrieb:
PS: Mir würde es ausreichen, wenn man für jede Nachricht eine neue Verbindung zwischen CLient und Server aufbaut; das ich für mich als Beispiel ok.
dann haste es doch. für sowas ist TCP ja da. sender baut verbindung auf, sendet seine nachricht, der empfänger macht als quittierung die verbindung wieder zu. sobald irgendwelche anomalien auftreten (z.b. verbindung wird durch RST statt durch FIN-FIN geschlossen) wissen beide, das etwas nicht geklappt hat. der empfänger schmeisst im fehlerfall die message weg und der sender versucht's nochmal.
-
Zeus schrieb:
Quelle sendet Datenpakete am Empfänger
der Empfänger quitiert das der Quelle, damit weiss die Quelle, dass die Pakete gesendet würde. Reicht das nichtIst das "zuverlässig"?
Nehmen wir mal an:
- Quelle sendet Daten an Empfänger (send = ok)
- Empfänger liest diese und sender Quittung (send = ok)Leider war jetzt zwischen dem Empfangen der Daten und dem Senden z.B. Auslastungsbeding eine "größere" zeit dazwischen (oder weil das Netzwerk so viele Störungen hat, was aktuell eigentlich mein Hauptproblem/ursache ist); nehemn wir also mal an 2 Sekunden.
Auf der Empfängerseite habe ich beim "recv" als Timeout auch 2 Sekunden angegeben!!!!
So was passieren kann ist folgendes:- Der ursprüngliche Empfänger sendet die Quittung und diese wir dauch mittels TCP korrekt an die Ebene3 übertragen!
- Der ursprüngliche Sender läuft jetzt aber in den Timeout rein während das Paket gerade eintrudelt...So, jetzt haben wir den Salat: TCP hat das Pakt schon bestätigt und ich habe es nicht empfangen!!!!
Das ist mein Problem! Hab hier ein Beispiel wo dies genau so passiert!
-
pale dog schrieb:
Jochen Kalmbach schrieb:
PS: Mir würde es ausreichen, wenn man für jede Nachricht eine neue Verbindung zwischen CLient und Server aufbaut; das ich für mich als Beispiel ok.
dann haste es doch. für sowas ist TCP ja da. sender baut verbindung auf, sendet seine nachricht, der empfänger macht als quittierung die verbindung wieder zu. sobald irgendwelche anomalien auftreten (z.b. verbindung wird durch RST statt durch FIN-FIN geschlossen) wissen beide, das etwas nicht geklappt hat. der empfänger schmeisst im fehlerfall die message weg und der sender versucht's nochmal.
Danke für den Hinweis... sowas ähnliches habe ich auch schon gedacht aber reicht mir das wirklich? Deckt das auch mein gerade geschilderten Fall ab?
-
Jochen Kalmbach schrieb:
pale dog schrieb:
Jochen Kalmbach schrieb:
PS: Mir würde es ausreichen, wenn man für jede Nachricht eine neue Verbindung zwischen CLient und Server aufbaut; das ich für mich als Beispiel ok.
dann haste es doch. für sowas ist TCP ja da. sender baut verbindung auf, sendet seine nachricht, der empfänger macht als quittierung die verbindung wieder zu. sobald irgendwelche anomalien auftreten (z.b. verbindung wird durch RST statt durch FIN-FIN geschlossen) wissen beide, das etwas nicht geklappt hat. der empfänger schmeisst im fehlerfall die message weg und der sender versucht's nochmal.
Danke für den Hinweis... sowas ähnliches habe ich auch schon gedacht aber reicht mir das wirklich? Deckt das auch mein gerade geschilderten Fall ab?
TCP gibt jedem Paket eine Sequenz-Nummer um das beschriebene Problem zu verhindern. Wenn ich dich richtig verstanden habe hast du den Fall beschrieben, dass die Empfangs-Bestätigung zwar losgeschickt wurde, aber zu spät beim ursprünglichen Sender eintrifft. Dann geht der Sender davon aus, dass das Paket verloren gegangen ist und schickt es nochmal los. Der Empfänger kann dann bei TCP anhand der Sequenz-Nummer feststellen, dass er dieses Paket schon einmal erhalten hat.
-
Jochen Kalmbach schrieb:
pale dog schrieb:
Jochen Kalmbach schrieb:
PS: Mir würde es ausreichen, wenn man für jede Nachricht eine neue Verbindung zwischen CLient und Server aufbaut; das ich für mich als Beispiel ok.
dann haste es doch. für sowas ist TCP ja da. sender baut verbindung auf, sendet seine nachricht, der empfänger macht als quittierung die verbindung wieder zu. sobald irgendwelche anomalien auftreten (z.b. verbindung wird durch RST statt durch FIN-FIN geschlossen) wissen beide, das etwas nicht geklappt hat. der empfänger schmeisst im fehlerfall die message weg und der sender versucht's nochmal.
Danke für den Hinweis... sowas ähnliches habe ich auch schon gedacht aber reicht mir das wirklich? Deckt das auch mein gerade geschilderten Fall ab?
eigentlich schon. angenommen der empfänger schliesst die verbindung nicht, weil z.b. das netzwerk so langsam ist und er noch auf die restlichen daten wartet. in dem fall (time out) schliesst der sender die verbindung (ein hartes closesockt == RST), was der empfänger seinerseits registrieren kann. passiert selbst das nicht (netzwerkausfall genau in dem augenblick) läuft der empfänger einerseits in einen timeout und verwirft alles bisher empfangenen fragmente.
also alles, was von dem vorgegebenen schema abweicht (sender: connect-send, empfänger-close -> graceful disconnect auf beiden seiten), gilt als misslungene übertragung.
beim normalen verbindungsabbau müssen beiden TCP's mitspielen. das müsste eigentlich reichen...
-
Windos verwaltet die Pakete in eine Art "Schieberegister".
Schickt diese ab und wartet auf die Quittung vom Empfäneger.
Wenn die Quittierung vollständig ist, wird das Schieberegister über seine Breite auf die nächste Pakete geschoben, sonst wird das wiederholt und nach n versuchen als failed eingestufft.
-
Zeus schrieb:
Windos verwaltet die Pakete in eine Art "Schieberegister".
http://de.wikipedia.org/wiki/FIFO

die anwendung schickt einzelne bytes rein (stream), der TCP stack packt selbständig pakete daraus (für darunterliegende, paketorientierte layer).

-
Und auf der unterste Ebene heisst das dann Frames. Hasst du vergessen....
-
Zeus schrieb:
Und auf der unterste Ebene heisst das dann Frames. Hasst du vergessen....
ja, beim snooker heisst es auch frames

-
Ok, also du hast grundsätzlich 2 Fälle: "ja" -> alles angekommen wie es sollte und "nein" -> nicht angekommen.
Mittels 2x Empfang quittieren (1x Empfang der Nachricht und 1x Empfand der Bestätigung) kannst du "sicher ja" feststellen. Wenn dabei allerdings etwas daneben geht heisst das nicht "sicher nein", sondern eben "unbekannt: ja oder nein".Was du schreibst erinnert mich daran wie ich vor dem Problem stand gewisse Daten (Events aus einem Log) zu übertragen. Dabei war wichtig dass die Daten Clientseitig erst gelöscht werden wenn sie übertragen und am Server gespeichert wurden, und dass Daten nicht 2x am Server eingetragen wurden.
Die Lösung: man verpasst jedem Datensatz Clientseitig eine unique ID (ich hab' einfach ne GUID genommen).
Dann schickt man alle Datensätze an den Server. Der Server verwirft alle Datensätze mit einer bereits bekannten GUID, alle anderen werden abgespeichert. Wenn alles abgespeichert ist schickt der Server ein ACK an den Client, woraufhin der alle übertragenen Datensätze löscht.
Wird der Vorgang unterbrochen werden einfach alle alten Datensätze bei der nächsten Übertragung nochmal mitgeschickt. Ob die dann schon eingetragen wurden oder nicht ist egal, da ja bereits eingetragene Datensätze anhand ihrere GUID erkannt und verworfen werden.Vielleicht hilft dir das weiter.
-
Jochen Kalmbach schrieb:
Auf der Empfängerseite habe ich beim "recv" als Timeout auch 2 Sekunden angegeben!!!!
So was passieren kann ist folgendes:2 Sekunden timeout erscheinen mir aber auch viel zu kurz für das beschriebene scenario. Ich würde da eher sowas wie 10 Sekunden erwarten. Der Timeout sollte ja shcon so gewählt werden das er im Normalbetrieb nicht erreicht wird. Und wie Du selber beschreibst sind 2 Skunden ja im Normalbetrieb durchaus möglich.
-
Christoph schrieb:
TCP gibt jedem Paket eine Sequenz-Nummer um das beschriebene Problem zu verhindern. Wenn ich dich richtig verstanden habe hast du den Fall beschrieben, dass die Empfangs-Bestätigung zwar losgeschickt wurde, aber zu spät beim ursprünglichen Sender eintrifft. Dann geht der Sender davon aus, dass das Paket verloren gegangen ist und schickt es nochmal los. Der Empfänger kann dann bei TCP anhand der Sequenz-Nummer feststellen, dass er dieses Paket schon einmal erhalten hat.
Das hilft mir aber nichts, da ich mich nicht auf ISO-Ebene 3 befinde, sondern auf ISO-Ebene 8!
-
pale dog schrieb:
eigentlich schon. angenommen der empfänger schliesst die verbindung nicht, weil z.b. das netzwerk so langsam ist und er noch auf die restlichen daten wartet. in dem fall (time out) schliesst der sender die verbindung (ein hartes closesockt == RST), was der empfänger seinerseits registrieren kann. passiert selbst das nicht (netzwerkausfall genau in dem augenblick) läuft der empfänger einerseits in einen timeout und verwirft alles bisher empfangenen fragmente.
also alles, was von dem vorgegebenen schema abweicht (sender: connect-send, empfänger-close -> graceful disconnect auf beiden seiten), gilt als misslungene übertragung.
beim normalen verbindungsabbau müssen beiden TCP's mitspielen. das müsste eigentlich reichen...
Und wie stelle ich jetzt fest ob die Verbindung "richtig" geschlossen wurde... ich hab doch nur ein FD_CLOSE!?
-
Zeus schrieb:
Windos verwaltet die Pakete in eine Art "Schieberegister".
Schickt diese ab und wartet auf die Quittung vom Empfäneger.
Wenn die Quittierung vollständig ist, wird das Schieberegister über seine Breite auf die nächste Pakete geschoben, sonst wird das wiederholt und nach n versuchen als failed eingestufft.Wie gesagt, das Betrifft nur die ISO-Ebene 3!!! Die Pakete kommen da ja auch wunderbar an! und werden eben im Treiber jetzt gepuffert bis sie jemand abholt!
Ich bin aber mit meiner Anwendung auf Ebene 8 und hab jetzt das Problem dass die Daten womöglich gerade auf Ebene 3 eingetroffen sind ich auf Ebene 8 aber gleichzeitig in den Timeout reinlaufe. Somit wurden die Daten perfekt auf EBene 3 übertragen, aber ich hab sie nicht bekommen...
-
Hallo hustbaer!
hustbaer schrieb:
Ok, also du hast grundsätzlich 2 Fälle: "ja" -> alles angekommen wie es sollte und "nein" -> nicht angekommen.
Mittels 2x Empfang quittieren (1x Empfang der Nachricht und 1x Empfand der Bestätigung) kannst du "sicher ja" feststellen. Wenn dabei allerdings etwas daneben geht heisst das nicht "sicher nein", sondern eben "unbekannt: ja oder nein".Endlich einer der mich versteht!
hustbaer schrieb:
Was du schreibst erinnert mich daran wie ich vor dem Problem stand gewisse Daten (Events aus einem Log) zu übertragen. Dabei war wichtig dass die Daten Clientseitig erst gelöscht werden wenn sie übertragen und am Server gespeichert wurden, und dass Daten nicht 2x am Server eingetragen wurden.
Die Lösung: man verpasst jedem Datensatz Clientseitig eine unique ID (ich hab' einfach ne GUID genommen).
Dann schickt man alle Datensätze an den Server. Der Server verwirft alle Datensätze mit einer bereits bekannten GUID, alle anderen werden abgespeichert.Wenn alles abgespeichert ist schickt der Server ein ACK an den Client, woraufhin der alle übertragenen Datensätze löscht.
Wird der Vorgang unterbrochen werden einfach alle alten Datensätze bei der nächsten Übertragung nochmal mitgeschickt. Ob die dann schon eingetragen wurden oder nicht ist egal, da ja bereits eingetragene Datensätze anhand ihrere GUID erkannt und verworfen werden.
Vielleicht hilft dir das weiter.
Das ist bisher auch die Lösung die ich mir vorstellen kann... leider ist das nicht so einfach mit einer eindeutigen ID... ich müsste mir ja auf der Server-Seite *alle* IDs merken und immer nachschlagen. Das ist etwas "overpowered"...
Sowas muss es doch (einfacher) geben!!! 2-Phase-Commit-Protokoll... ich hab bloß noch nichts gefunden wie man das auf TCP anwendet...
-
loks schrieb:
Jochen Kalmbach schrieb:
Auf der Empfängerseite habe ich beim "recv" als Timeout auch 2 Sekunden angegeben!!!!
2 Sekunden timeout erscheinen mir aber auch viel zu kurz für das beschriebene scenario. Ich würde da eher sowas wie 10 Sekunden erwarten. Der Timeout sollte ja shcon so gewählt werden das er im Normalbetrieb nicht erreicht wird. Und wie Du selber beschreibst sind 2 Skunden ja im Normalbetrieb durchaus möglich.
Die länge des Timeouts spielt bei "zuverlässig" *keine* Rolle! Entweder eine Übertragung ist zuverlässig oder nicht!
Und mir geht ja gerade *nicht* um den Normalbetrieb!
-
du musst dir nicht alle IDs merken, wenn du sequenzielle IDs für eine verbindung verwendest. dann kann der server nämlich pakete, die kleiner als die bereits abgearbeiteten sequenznummern sind, stickum als bereits erledigt bestätigen.
-
Jetzt hab ich nur noch das Problem, dass ich mehrere Clients haben kann... die wissen ja nix voneinandern, somit können diese auch keine "forlaufende" ID bilden...