src/kernel/swift.c

   1 #include <linux/module.h>
   2 #include <linux/version.h>
   3 #include <net/sock.h>
   4 #include <net/protocol.h>
   5 #include <net/ip.h>
   6 #include <net/route.h>
   7
   8 #include "swift.h"
   9 #include "debug.h"
  10
  11 MODULE_DESCRIPTION("Swift Transport Protocol");
  12 MODULE_AUTHOR("Adrian Bondrescu/Cornel Mercan");
  13 MODULE_LICENSE("GPL");
  14
  15 struct swift_sock {
  16         struct inet_sock sock;
  17         /* swift socket speciffic data */
  18         uint8_t src;
  19         uint8_t dst;
  20 };
  21
  22 static struct swift_sock * sock_port_map[MAX_SWIFT_PORT];
  23
  24 static inline struct swift_sock * swift_sk(struct sock * sock)
  25 {
  26         return (struct swift_sock *)(sock);
  27 }
  28
  29 static inline struct swifthdr * swift_hdr(const struct sk_buff * skb)
  30 {
  31         return (struct swifthdr *) skb_transport_header(skb);
  32 }
  33
  34 static inline uint8_t get_next_free_port(void)
  35 {
  36         int i;
  37         for (i = MIN_SWIFT_PORT; i < MAX_SWIFT_PORT; i ++)
  38                 if (sock_port_map[i] == NULL)
  39                         return i;
  40         return 0;
  41 }
  42
  43 static inline void swift_unhash(uint8_t port)
  44 {
  45         sock_port_map[port] = NULL;
  46 }
  47
  48 static inline void swift_hash(uint8_t port, struct swift_sock *ssh)
  49 {
  50         sock_port_map[port] = ssh;
  51 }
  52
  53 static inline struct swift_sock * swift_lookup(uint8_t port)
  54 {
  55         return sock_port_map[port];
  56 }
  57
  58 static int swift_release(struct socket *sock)
  59 {
  60         struct sock *sk = sock->sk;
  61         struct swift_sock * ssk = swift_sk(sk);
  62
  63         if (unlikely(!sk))
  64                 return 0;
  65
  66         swift_unhash(ssk->src);
  67
  68         sock_prot_inuse_add(sock_net(sk), sk->sk_prot, -1);
  69
  70         synchronize_net();
  71
  72         sock_orphan(sk);
  73         sock->sk = NULL;
  74
  75         skb_queue_purge(&sk->sk_receive_queue);
  76
  77         log_debug("swift_release sock=%p\n", sk);
  78         sock_put(sk);
  79
  80         return 0;
  81 }
  82
  83 static int swift_bind(struct socket *sock, struct sockaddr *addr, int addr_len)
  84 {
  85         struct sockaddr_swift *swift_addr;
  86         struct swift_sock *ssk;
  87         int err;
  88         uint8_t port;
  89
  90         if (unlikely(addr_len < sizeof(struct sockaddr_swift))) {
  91                 log_error("Invalid size for sockaddr\n");
  92                 err = -EINVAL;
  93                 goto out;
  94         }
  95
  96         swift_addr = (struct sockaddr_swift *) addr;
  97
  98         port = swift_addr->dests[0].port;
  99
 100         if (unlikely(port == 0 || port >= MAX_SWIFT_PORT)) {
 101                 log_error("Invalid value for sockaddr port (%u)\n", port);
 102                 err = -EINVAL;
 103                 goto out;
 104         }
 105
 106         if (unlikely(swift_lookup(port) != NULL)) {
 107                 log_error("Port %u already in use\n", port);
 108                 err = -EADDRINUSE;
 109                 goto out;
 110         }
 111
 112         ssk = swift_sk(sock->sk);
 113         ssk->src = port;
 114
 115         swift_hash(port, ssk);
 116
 117         log_debug("Socket %p bound to port %u\n", ssk, port);
 118
 119         return 0;
 120
 121 out:
 122         return err;
 123 }
 124
 125 static int swift_connect(struct socket *sock, struct sockaddr *addr, int addr_len, int flags)
 126 {
 127         int err;
 128         struct sock * sk;
 129         struct inet_sock * isk;
 130         struct swift_sock * ssk;
 131
 132         log_debug("swift_connect\n");
 133
 134         if (unlikely(sock == NULL)) {
 135                 log_error("Sock is NULL\n");
 136                 err = -EINVAL;
 137                 goto out;
 138         }
 139         sk = sock->sk;
 140
 141         if (unlikely(sk == NULL)) {
 142                 log_error("Sock->sk is NULL\n");
 143                 err = -EINVAL;
 144                 goto out;
 145         }
 146
 147         isk = inet_sk(sk);
 148         ssk = swift_sk(sk);
 149
 150         if (unlikely(ssk->src != 0)) {
 151                 log_error("ssk->src is not NULL\n");
 152                 err = -EINVAL;
 153                 goto out;
 154         }
 155
 156         if (likely(addr)) {
 157                 struct sockaddr_swift * swift_addr = (struct sockaddr_swift *) addr;
 158
 159         if (unlikely(addr_len < sizeof(*swift_addr) ||
 160                      addr_len < swift_addr->count * sizeof(struct swift_dest) ||
 161                      swift_addr->count <= 0)) {
 162                         log_error("Invalid size or address family\n");
 163                         err = -EINVAL;
 164                         goto out;
 165                 }
 166                 ssk->dst = swift_addr->dests[0].port;
 167                 if (unlikely(ssk->dst == 0 || ssk->dst >= MAX_SWIFT_PORT)) {
 168                         log_error("Invalid value for destination port(%u)\n", ssk->dst);
 169                         err = -EINVAL;
 170                         goto out;
 171                 }
 172
 173                 isk->inet_daddr = swift_addr->dests[0].addr;
 174                 log_debug("Received from user space destination port=%u and address=%u\n", ssk->dst, isk->inet_daddr);
 175         } else {
 176                 log_error("Invalid swift_addr (NULL)\n");
 177                 err = -EINVAL;
 178                 goto out;
 179         }
 180
 181         ssk->src = get_next_free_port();
 182         if (unlikely(ssk->src == 0)) {
 183                 log_error("No free ports\n");
 184                 err = -ENOMEM;
 185                 goto out;
 186         }
 187
 188         swift_hash(ssk->src, ssk);
 189
 190         return 0;
 191
 192 out:
 193         return err;
 194 }
 195
 196 static int swift_sendmsg(struct kiocb *iocb, struct socket *sock, struct msghdr *msg, size_t len)
 197 {
 198         int err;
 199         uint8_t dport;
 200         __be32 daddr;
 201         uint8_t sport;
 202         struct sk_buff * skb;
 203         struct sock * sk;
 204         struct inet_sock * isk;
 205         struct swift_sock * ssk;
 206         struct swifthdr * shdr;
 207         int connected = 0;
 208         int totlen;
 209         struct rtable * rt = NULL;
 210
 211         if (unlikely(sock == NULL)) {
 212                 log_error("Sock is NULL\n");
 213                 err = -EINVAL;
 214                 goto out;
 215         }
 216         sk = sock->sk;
 217
 218         if (unlikely(sk == NULL)) {
 219                 log_error("Sock->sk is NULL\n");
 220                 err = -EINVAL;
 221                 goto out;
 222         }
 223
 224         isk = inet_sk(sk);
 225         ssk = swift_sk(sk);
 226
 227         sport = ssk->src;
 228         if (sport == 0) {
 229                 sport = get_next_free_port();
 230                 if (unlikely(sport == 0)) {
 231                         log_error("No free ports\n");
 232                         err = -ENOMEM;
 233                         goto out;
 234                 }
 235         }
 236
 237         if (msg->msg_name) {
 238                 struct sockaddr_swift * swift_addr = (struct sockaddr_swift *) msg->msg_name;
 239
 240         if (unlikely(msg->msg_namelen < sizeof(*swift_addr) ||
 241                      msg->msg_namelen < swift_addr->count * sizeof(struct swift_dest) ||
 242                      swift_addr->count <= 0)) {
 243                         log_error("Invalid size for msg_name\n");
 244                         err = -EINVAL;
 245                         goto out;
 246                 }
 247
 248                 dport = swift_addr->dests[0].port;
 249                 if (unlikely(dport == 0 || dport >= MAX_SWIFT_PORT)) {
 250                         log_error("Invalid value for destination port(%u)\n", dport);
 251                         err = -EINVAL;
 252                         goto out;
 253                 }
 254
 255                 daddr = swift_addr->dests[0].addr;
 256                 log_debug("Received from user space destination port=%u and address=%u\n", dport, daddr);
 257         } else {
 258                 if (unlikely(!ssk->dst || !isk->inet_daddr)) {
 259                         log_error("No destination port/address\n");
 260                         err = -EDESTADDRREQ;
 261                         goto out;
 262                 }
 263                 dport = ssk->dst;
 264                 daddr = isk->inet_daddr;
 265
 266                 log_debug("Got from socket destination port=%u and address=%u\n", dport, daddr);
 267                 connected = 1;
 268         }
 269
 270         totlen = len + sizeof(struct swifthdr) + sizeof(struct iphdr);
 271         skb = sock_alloc_send_skb(sk, totlen, msg->msg_flags & MSG_DONTWAIT, &err);
 272         if (unlikely(!skb)) {
 273                 log_error("sock_alloc_send_skb failed\n");
 274                 goto out;
 275         }
 276         log_debug("Allocated %u bytes for skb (payload size=%u)\n", totlen, len);
 277
 278         skb_reset_network_header(skb);
 279         skb_reserve(skb, sizeof(struct iphdr));
 280         log_debug("Reseted network header\n");
 281         skb_reset_transport_header(skb);
 282         skb_put(skb, sizeof(struct swifthdr));
 283         log_debug("Reseted transport header\n");
 284
 285         shdr = (struct swifthdr *) skb_transport_header(skb);
 286         shdr->dst = dport;
 287         shdr->src = sport;
 288         shdr->len = ntohs(len + sizeof(struct swifthdr));
 289
 290         log_debug("payload=%p\n", skb_put(skb, len));
 291
 292         err = skb_copy_datagram_from_iovec(skb, sizeof(struct swifthdr), msg->msg_iov, 0, len);
 293         if (unlikely(err)) {
 294                 log_error("skb_copy_datagram_from_iovec failed\n");
 295                 goto out_free;
 296         }
 297         log_debug("Copied %u bytes into the skb\n", len);
 298
 299         if (connected)
 300                 rt = (struct rtable *) __sk_dst_check(sk, 0);
 301
 302         if (rt == NULL) {
 303                 struct flowi fl = { .fl4_dst = daddr,
 304                                     .proto = sk->sk_protocol,
 305                                     .flags = inet_sk_flowi_flags(sk),
 306                                   };
 307                 err = ip_route_output_flow(sock_net(sk), &rt, &fl, sk, 0);
 308                 if (unlikely(err)) {
 309                         log_error("Route lookup failed\n");
 310                         goto out_free;
 311                 }
 312 #if LINUX_VERSION_CODE < KERNEL_VERSION(2, 6, 36)
 313                 sk_dst_set(sk, dst_clone(&rt->u.dst));
 314 #else
 315                 sk_dst_set(sk, dst_clone(&rt->dst));
 316 #endif
 317         }
 318
 319         err = ip_queue_xmit(skb);
 320         if (likely(!err))
 321                 log_debug("Sent %u bytes on wire\n", len);
 322         else
 323                 log_error("ip_queue_xmit failed\n");
 324
 325         return err;
 326
 327 out_free:
 328         kfree(skb);
 329
 330 out:
 331         return err;
 332 }
 333
 334 static int swift_recvmsg(struct kiocb *iocb, struct socket *sock, struct msghdr *msg, size_t len, int flags)
 335 {
 336         struct sk_buff *skb;
 337         struct sockaddr_swift *swift_addr;
 338         struct sock * sk = sock->sk;
 339         int err, copied;
 340
 341     log_debug("Trying to receive sock=%p sk=%p flags=%d\n", sock, sk, flags);
 342
 343         skb = skb_recv_datagram(sk, flags, flags & MSG_DONTWAIT, &err);
 344         if (unlikely(!skb)) {
 345                 log_error("skb_recv_datagram\n");
 346                 goto out;
 347         }
 348
 349         log_debug("Received skb %p\n", skb);
 350
 351         swift_addr = (struct sockaddr_swift *) skb->cb;
 352         msg->msg_namelen = sizeof(struct sockaddr_swift);
 353
 354         copied = skb->len;
 355         if (copied > len) {
 356                 copied = len;
 357                 msg->msg_flags |= MSG_TRUNC;
 358         }
 359
 360         err = skb_copy_datagram_iovec(skb, 0, msg->msg_iov, copied);
 361         if (unlikely(err)) {
 362                 log_error("skb_copy_datagram_iovec\n");
 363                 goto out_free;
 364         }
 365
 366         sock_recv_ts_and_drops(msg, sk, skb);
 367
 368         if (msg->msg_name)
 369                 memcpy(msg->msg_name, swift_addr, msg->msg_namelen);
 370
 371         err = copied;
 372
 373 out_free:
 374         skb_free_datagram(sk, skb);
 375
 376 out:
 377         return err;
 378 }
 379
 380 static int swift_rcv(struct sk_buff *skb)
 381 {
 382         struct swifthdr *shdr;
 383         struct swift_sock *ssk;
 384         __be16 len;
 385         uint8_t src, dst;
 386         struct sockaddr_swift * swift_addr;
 387         int err;
 388
 389         if (unlikely(!pskb_may_pull(skb, sizeof(struct swifthdr)))) {
 390                 log_error("Insufficient space for header\n");
 391                 goto drop;
 392         }
 393
 394         shdr = (struct swifthdr *) skb->data;
 395         len = ntohs(shdr->len);
 396
 397         if (unlikely(skb->len < len)) {
 398                 log_error("Malformed packet (packet_len=%u, skb_len=%u)\n", len, skb->len);
 399                 goto drop;
 400         }
 401
 402         if (unlikely(len < sizeof(struct swifthdr))) {
 403                 log_error("Malformed packet (packet_len=%u sizeof(swifthdr)=%u\n", len, sizeof(struct swifthdr));
 404                 goto drop;
 405         }
 406
 407         src = shdr->src;
 408         dst = shdr->dst;
 409         if (unlikely(src == 0 || dst == 0 || src >= MAX_SWIFT_PORT || dst >= MAX_SWIFT_PORT)) {
 410                 log_error("Malformed packet (src=%u, dst=%u)\n", shdr->src, shdr->dst);
 411                 goto drop;
 412         }
 413
 414         skb_pull(skb, sizeof(struct swifthdr));
 415         len -= sizeof(struct swifthdr);
 416
 417         pskb_trim(skb, len);
 418
 419         log_debug("Received %u bytes from from port=%u to port=%u\n", len - sizeof(struct swifthdr), src, dst);
 420
 421         ssk = swift_lookup(dst);
 422         if (ssk == NULL) {
 423                 log_error("Swift lookup failed for port %u\n", dst);
 424                 goto drop;
 425         }
 426
 427         BUILD_BUG_ON(sizeof(struct sockaddr_swift) > sizeof(skb->cb));
 428
 429         swift_addr = (struct sockaddr_swift *) skb->cb;
 430         swift_addr->dests[0].port = shdr->src;
 431         swift_addr->dests[0].addr = ip_hdr(skb)->saddr;
 432
 433         log_debug("Setting sin_port=%u, sin_addr=%u\n", ntohs(shdr->src), swift_addr->dests[0].addr);
 434
 435         err = ip_queue_rcv_skb((struct sock *) &ssk->sock, skb);
 436         if (unlikely(err)) {
 437                 log_error("ip_queu_rcv_skb\n");
 438                 consume_skb(skb);
 439         }
 440         return NET_RX_SUCCESS;
 441
 442 drop:
 443         kfree(skb);
 444         return NET_RX_DROP;
 445 }
 446
 447 static struct proto swift_prot = {
 448         .obj_size = sizeof(struct swift_sock),
 449         .owner    = THIS_MODULE,
 450         .name     = "SWIFT",
 451 };
 452
 453 static const struct proto_ops swift_ops = {
 454         .family     = PF_INET,
 455         .owner      = THIS_MODULE,
 456         .release    = swift_release,
 457         .bind       = swift_bind,
 458         .connect    = swift_connect,
 459         .socketpair = sock_no_socketpair,
 460         .accept     = sock_no_accept,
 461         .getname    = sock_no_getname,
 462         .poll       = datagram_poll,
 463         .ioctl      = sock_no_ioctl,
 464         .listen     = sock_no_listen,
 465         .shutdown   = sock_no_shutdown,
 466         .setsockopt = sock_no_setsockopt,
 467         .getsockopt = sock_no_getsockopt,
 468         .sendmsg    = swift_sendmsg,
 469         .recvmsg    = swift_recvmsg,
 470         .mmap       = sock_no_mmap,
 471         .sendpage   = sock_no_sendpage,
 472 };
 473
 474 static const struct net_protocol swift_protocol = {
 475         .handler   = swift_rcv,
 476         .no_policy = 1,
 477         .netns_ok  = 1,
 478 };
 479
 480 static struct inet_protosw swift_protosw = {
 481         .type     = SOCK_DGRAM,
 482         .protocol = IPPROTO_SWIFT,
 483         .prot     = &swift_prot,
 484         .ops      = &swift_ops,
 485         .no_check = 0,
 486 };
 487
 488 static int __init swift_init(void)
 489 {
 490         int rc;
 491
 492         rc = proto_register(&swift_prot, 1);
 493         if (unlikely(rc)) {
 494                 log_error("Error registering swift protocol\n");
 495                 goto out;
 496         }
 497
 498         rc = inet_add_protocol(&swift_protocol, IPPROTO_SWIFT);
 499         if (unlikely(rc)) {
 500                 log_error("Error adding swift protocol\n");
 501                 goto out_unregister;
 502         }
 503
 504         inet_register_protosw(&swift_protosw);
 505         log_debug("Swift entered\n");
 506
 507         return 0;
 508
 509 out_unregister:
 510         proto_unregister(&swift_prot);
 511
 512 out:
 513         return rc;
 514 }
 515
 516 static void __exit swift_exit(void)
 517 {
 518         inet_unregister_protosw(&swift_protosw);
 519
 520         inet_del_protocol(&swift_protocol, IPPROTO_SWIFT);
 521
 522         proto_unregister(&swift_prot);
 523
 524         log_debug("Swift exited\n");
 525 }
 526
 527 module_init(swift_init);
 528 module_exit(swift_exit);